据《商业内幕》10月8日凌晨报道，近日从OpenAI离职的安全系统团队前负责人之一戴维·罗宾逊指出，该公司在AI安全问题上存在明显的表里不一。
罗宾逊称，OpenAI一方面反复警告新模型能力提升可能带来的隐患，另一方面公开谈论要减缓AI开发进度，但公司内部却仍在全力推进。“真正让我感到矛盾的是，我们不断发出这些警示，最后却还是在训练和部署那些被我们自己警告存在风险的模型。”
今年7月，数百名OpenAI员工签署了一封公开信，呼吁政府出台监管措施，以降低AI开发速度。
此前，Anthropic CEO阿莫迪曾呼吁AI公司之间自行协调，共同放慢开发步伐。今年9月，OpenAI CEO奥尔特曼对此表示认可。“我们需要掌控前沿AI的发展节奏。过去几周，这已成为OpenAI内部讨论的主要议题之一。”
罗宾逊说，OpenAI办公室里却仍是一片高速运转的景象，不少人几乎靠透支精力来支撑工作。他形容这种状态时说：“感觉几乎就像芭蕾，或者某种舞蹈，各个部门的工作全都同时汇聚在一起。整个过程充满肾上腺素。”
OpenAI研究人员并不避讳让AI自行提升能力可能带来的风险。这种让AI不断改进自身能力的过程被称为“递归自我改进”。今年9月，OpenAI首席科学家雅库布·帕乔茨基在一篇讨论递归自我改进的博客文章中警告：“眼下需要极度谨慎。”
据IT之家此前报道，当地时间2日，OpenAI一名发言人证实，OpenAI安全系统团队负责人之一戴维·罗宾逊已离职。
相关阅读：
- 《OpenAI内部动荡加剧之际，又一名安全负责人戴维·罗宾逊离职》