GPT-4发布前，OpenAI曾雇各行专家开展“对抗性测试”，为打消人们疑虑

2023-04-18 11:39:15 编辑：东方菡倩来源：

导读北京时间4月17日最新消息报道，人工智能初创企业open AI在发布大型语言模型之前，曾雇佣各行业的专家组成团队，进行对抗性测试，探究该模...

北京时间4月17日最新消息报道，人工智能初创企业open AI在发布大型语言模型之前，曾雇佣各行业的专家组成团队，进行对抗性测试，探究该模型未来所出现的问题，并测试该人工智能会如何作出回应。

作为罗切斯特大学的化学工程教授，怀特是被聘用的学者和专家之一，在6个月的探索中，所有的成员对于该模型进行了对抗性测试，看是否能够攻破GPT-4。

据他本人表示，他们所使用的GPS-4可以提出一种作为化学毒剂的化合物，还引入诸多科学论文和化学商品的名称，结果人工智能聊天机器人甚至找到了这种化学药剂的制作方法和来历。

为了打消人们在社会上对于人工智能潜在以危险的担心，这个团队就是为了提出更多具备探索性的问题，解决更多的危险问题，测试人工智能在社会上会如何作出回应。

据爆料，该团队来自于各行各业，有学者老师，律师以及风险分析师和安全研究员，大部分员工的工作地点都在美国和欧洲。

在几个月的时间中，该团队中的每一个成员都会花费10~40个小时来重新测试新模型，有多位员工表示自己的时薪大概在100美元左右，因为大型语言模型的快速发展，很多成员都担心该语言模型是否会在日后造成潜在影响，更担心通过插件和外部感知连接所造成的未知风险。

Open AI公司也非常重视这个人工智能的安全性，在发布之前会对该插件做出各种测试，随着越来越多人使用 GPT-4，在未来open AI会定期对于该人工智能模型进行更新，即便如此，GPT-4也有明显的边缘化刻板现象，需要完善的地方还有很多。

标签： GPT-4 OpenA 对抗性测试

免责声明：本文由用户上传，如有侵权请联系删除！

本站除标明“本站原创”外所有信息均转载自互联网版权归原作者所有。

邮箱：toplearningteam#gmail.com (请将#换成@)