IT之家7月14日消息,据《商业内幕》13日报道,OpenAI安全系统团队负责人约翰内斯.海德克即将离职。近年来,OpenAI安全与对齐团队已有多名员工离开。
OpenAI首席研究官陈信翰告诉《商业内幕》:“我们感谢约翰内斯为OpenAI作出的贡献。研究与安全工作将在米娅.格莱泽的带领下迈入新阶段,我们对此充满期待。”
OpenAI表示,格莱泽将出任研究与安全副总裁,并推动安全工作更深入地融入各研究团队。
此次调整表明,OpenAI正在重新思考研究与安全工作的关系。OpenAI发言人说:“只有了解模型的基础能力,才能作出正确的安全决策,只有了解潜在的安全影响,才能作出正确的研究决策。”
OpenAI表示,确保AGI最终问世时造福全人类,是OpenAI的使命。“所谓安全,就是在降低AI负面影响的同时释放积极价值,因此,安全是我们使命的核心。”
然而,OpenAI一直未能稳定留住高级安全负责人,一些离职员工还曾公开质疑OpenAI是否真正重视安全工作。
曾共同负责OpenAI超级对齐团队的扬.莱克在2024年5月离职时直言,OpenAI更看重推出产品,而不是确保产品安全。“过去几年,安全文化和安全流程已经被光鲜的产品挤到次要位置。”
莱克还表示,OpenAI必须投入更多资源,为未来更强大的模型做好准备,而制造比人类更加聪明的机器是一项本质上危险的事业。
知名AI分析师安德鲁.柯伦借用《哈利.波特》中的说法,把OpenAI安全负责人走马灯般更替的现象形容为一种诅咒。
以下是近年来离开OpenAI安全重点团队的八名负责人。联合创始人伊利亚.苏茨克维
OpenAI联合创始人、长期担任首席科学家的伊利亚.苏茨克维于2024年5月离职。此前,他与莱克共同领导超级对齐计划,研究如何控制未来可能出现的超级智能AI。
苏茨克维离职时在X发文表示,OpenAI取得的进展“堪称奇迹”。此后,他创立了Safe Superintelligence,全部研究工作都围绕安全超级智能展开。联合创始人扬.莱克
莱克在苏茨克维离职几天后离开OpenAI。他公开对OpenAI的安全路线提出尖锐批评,并表示,自己与管理层长期存在分歧,最终到了“无法再继续下去的临界点”。
莱克和苏茨克维离职后,OpenAI解散了超级对齐团队,并把剩余成员调往其他研究团队。莱克随后加入Anthropic,继续从事对齐研究。AGI准备工作高级顾问迈尔斯(MYE).布伦戴奇
布伦戴奇在OpenAI工作六年后,于2024年10月离职。
布伦戴奇当时在Substack发表文章,讨论AI可能给世界带来的影响,并写道:“OpenAI没有准备好,其他任何前沿实验室也没有准备好,整个世界同样没有准备好。”
布伦戴奇写道,选择继续留在OpenAI,也意味着默认接受OpenAI的价值观。“每一名OpenAI员工都应认真看待自己的行动和言论,因为两者会塑造组织文化。随着OpenAI开始掌握极其先进的能力,员工的行为还可能让未来的发展沿着积极或消极的路径固化。”研究与安全副总裁翁荔
翁荔的领英资料显示,她在OpenAI工作近七年后,于2024年11月离职。翁荔此前负责安全系统团队。
翁荔在离职声明中没有公开批评OpenAI,反而肯定了OpenAI的工作环境,并表示,OpenAI“在训练模型兼顾强大能力与责任意识方面,已经树立新的行业标准”。模型政策安全研究负责人安德烈娅.瓦隆
瓦隆于2025年年底离开OpenAI。此前,她领导的团队负责确定OpenAI模型在敏感场景中的回应方式,包括涉及情感依赖和心理健康危机的对话。
OpenAI最初只在内部宣布瓦隆离职,她本人没有公开批评OpenAI。瓦隆后来加入Anthropic的对齐团队,继续研究模型行为和安全问题。前风险准备工作负责人亚历山大(ALX).马德里
马德里加入OpenAI后负责风险准备团队,评估能力越来越强的模型是否可能引发严重风险。2024年,马德里被调离相关领导岗位,随后把工作重点转向AI推理,并于2026年5月离开OpenAI。前首席未来学家约书亚.阿基亚姆
阿基亚姆于7月离职。此前,他领导使命对齐团队,负责确保OpenAI开发和部署AI的方式符合非营利使命。
阿基亚姆7月在X发文表示:“我离职没有某个特定原因,选择现在离开也不是因为某件具体的事。不过,我已经考虑了很长时间,现在感觉时机成熟。全世界已经知道这个秘密,在前沿实验室之外继续推动这项使命,似乎也变得可行了。”安全系统团队负责人约翰内斯.海德克
海德克于2021年加入OpenAI,并在翁荔离职后接手安全系统团队。海德克领导的团队负责在OpenAI发布模型前评估风险,并采取措施降低风险。
海德克的计划离职消息于周五公开,此后他没有发表公开声明。OpenAI表示,OpenAI正在把安全工作更紧密地纳入整体研究体系,海德克在此期间决定离开。
