OpenAI组建新团队：收集公众意见 ai价值观可以和人类相同吗

2024-01-18 13:46:16 编辑：潘中博来源：

导读在美国当地时间1月16日，人工智能领域的初创企业openai通过博客宣布，公司目前正在组建一个名为集体对齐的团队。这个团队人员主要是由研究...

在美国当地时间1月16日，人工智能领域的初创企业openai通过博客宣布，公司目前正在组建一个名为集体对齐的团队。这个团队人员主要是由研究人员和工程师组成团队的主要任务就是负责收集公众意见，用这些公众意见来训练人工智能模型，解决偏见和其他隐患问题。 Openai公司在发文中表示，公司的目的就是为了打造一个系统，能够收集公众对于人工智能模型的看法，并将这些意见融入到产品服务中，这样一来，公司旗下的人工智能模型就会尽可能和人类的价值观保持一致。

为了实现这一目的，openai公司正在招募拥有不同技术手段的研究工程师。Openai公司表示，公司将会和外部顾问和其他的团队合作，所以公司需要来自于不同领域内的专家一起来推动工作的正常进展。

其实集体对齐团队就是以2023年5月份openai公司的一个公共项目为基础，这个公共项目的目的就是为了建立一个民主程序。 OpenAI新团队创始成员泰纳·埃伦杜表示，随着超级人工智能模型的发展，模型将会成为每一个人日常生活中的一部分，所以提前收集群众意见，对于日后模型，更好的融入人类社会是至关重要的。

虽然openai公司曾多次描述这个项目和利益没有关系，但是投资者考虑到首席执行官奥特曼对于人工智能监管的反对态度，就很难以相信公司的说法。奥特曼以及公司总裁和首席科学家曾多次强调人工智能技术发展的速度已经远远超过了预期，眼下已经没有时间等待权威机构来抑制这项技术的发展，所以他们希望能够将人工智能技术的监管工作众包给所有的解决方案提供商。