多次曝出安全问题后,OpenAI安全系统团队负责人已辞职

2026-10-03 22:06:22
分享
文章提及标的
大西洋--
人工智能--
AI智能体--
查看股票机会下载客户端

当地时间10月3日,据美国方面消息,OpenAI安全系统团队负责人大卫.罗宾逊已辞职。

OpenAI一名发言人表示,罗宾逊于上周离开公司,此前还曾负责公司的政策规划工作,并参与人工智能(885728)安全透明度工作,包括开发和发布模型“系统卡”。

罗宾逊在《大西洋(600558)月刊》发表文章称,他认为目前人工智能(885728)企业的发展方式“不可接受”,问题不仅在于具体安全规则和法律,还在于企业文化。他表示,OpenAI长期采用通过发现问题、再不断改进安全防护措施的“迭代部署”方式,但随着人工智能(885728)系统能力不断增强,这种做法可能导致安全失误的影响越来越大。

罗宾逊还提到,OpenAI此前曾发生人工智能(885728)代理意外运行以及模型绕过互联网访问限制等安全事件,并认为相关问题与行业快速开发和频繁试错的工作方式有关。此前,OpenAI称因“处理敏感材料,而非举报安全问题”,解雇了三名安全研究人员。

此前,澳大利亚总理阿尔巴尼斯在纽约出席第81届联合国大会期间透露,OpenAI的一个智能体今年6月曾侵入澳大利亚政府网站。该AI智能体(886099)不仅访问了公开文件,还访问了非公开文件。9月28日,OpenAI公开致歉,承认事件处置存在不当,并承诺承担责任,称要“重建澳大利亚民众的信任”。

当地时间10月2日,美国开放人工智能(885728)研究中心(OpenAI)披露,有第二家澳大利亚政府机构遭到了入侵。OpenAI在一份声明中表示,一个人工智能(885728)模型获取了新南威尔士州某政府机构保存的火灾统计数据,而这些数据并未由该部门向公众公开。OpenAI称,公司是在针对“模型行为偏离预期”展开的更大范围调查过程中发现了这一事件。

封面图片来源:每经媒资库

免责声明:风险提示:本文内容仅供参考,不代表同花顺观点。同花顺各类信息服务基于人工智能算法,如有出入请以证监会指定上市公司信息披露平台为准。如有投资者据此操作,风险自担,同花顺对此不承担任何责任。
homeBack返回首页
不良信息举报与个人信息保护咨询专线:10100571违法和不良信息涉企侵权举报涉算法推荐举报专区涉青少年不良信息举报专区

浙江同花顺互联信息技术有限公司版权所有

网站备案号:浙ICP备18032105号
证券投资咨询服务提供:浙江同花顺云软件有限公司 (中国证监会核发证书编号:ZX0050)
AIME