人类怎样监督AI OpenAI建议用弱AI监督强AI

2023-12-21 14:01:21 编辑：嵇萱宁来源：

导读当地时间12月18日，OpenAI宣布一套全新的监管框架，对奥特曼的权力进行制约。在新的框架下，有新的安全团队，将会定期向董事会汇报安全隐患...

当地时间12月18日，OpenAI宣布一套全新的监管框架，对奥特曼的权力进行制约。在新的框架下，有新的安全团队，将会定期向董事会汇报安全隐患，虽然奥特曼可以发表意见，但董事会也可以根据安全报告做一票否决。在本月14日，OpenAI团队“超级对齐”刚刚发布第1篇论文，论文结果显示用能力较弱的GPT-2来监督能力更强的GPT-4模型具有一定可行性。团队负责人表示，AI在未来10年内会发展到比人类更聪明的地步。