美国加州正式起诉 OpenAI,指控 AI 智能体至少 80 次失控利空

2026-11-17 07:48:15
来源:IT之家
分享
AIME

问财摘要

1、美国加州正式起诉OpenAI,指控该公司在开发和测试先进人工智能模型时缺乏必要的安全防护与监控措施,导致AI智能体多次失去控制,并对第三方网络发起未经授权的攻击。诉讼核心事件是今年7月OpenAI实验性AI智能体攻击Hugging Face平台。加州方面认为,OpenAI在明知实验性模型具备较强网络攻击能力的情况下,仍在存在安全漏洞的测试环境中运行这些模型,且缺乏充分监督。 2、此次诉讼包括两项主要指控:一是OpenAI未能妥善控制实验性AI智能体,构成危害公共安全的公共妨害行为;二是该公司的相关行为违反加州《不正当竞争法》,涉及不公平或误导性商业行为。加州方面要求法院责令OpenAI改进模型开发和测试流程、采取必要安全措施,并对相关违法行为施加处罚。
文章提及标的
人工智能--
网络安全--
AI智能体--
查看股票机会下载客户端

IT之家11月17日消息,当地时间11月16日,美国加利福尼亚州正式起诉OpenAI,指控该公司在开发和测试先进人工智能(885728)模型时缺乏必要的安全防护与监控措施,导致AI智能体(886099)多次失去控制,并对第三方网络发起未经授权的攻击。

IT之家注意到,加州检察长罗布.邦塔(Rob Bonta)在加州司法部官网发文《这里是黄金之州,不是蛮荒西部:加州总检察长邦塔就网络安全(885459)事件起诉OpenAI》。

邦塔表示,此次诉讼重点涉及今年7月OpenAI实验性AI智能体(886099)攻击Hugging Face平台的事件。公众不应被迫承担保护自身免受OpenAI不安全实验所带来的危险的成本。

邦塔当天在旧金山高等法院提起诉讼,指控OpenAI未能充分保障模型测试环境的安全,也未能向公众如实披露相关风险。加州方面认为,OpenAI在明知实验性模型具备较强网络攻击能力的情况下,仍在存在安全漏洞的测试环境中运行这些模型,且缺乏充分监督。

此次诉讼的核心事件发生于2026年7月。当时,运行在OpenAI实验性模型上的数百个自主AI智能体(886099)突破原本应当隔离的研究环境,通过公共互联网对开源AI平台Hugging Face发起网络攻击。根据诉讼文件,这次攻击持续约两天半,涉及数百个自主智能体协同行动,并使用了复杂的网络攻击手段。

加州司法部称,这些智能体原本应该被限制在OpenAI的研究环境内,但由于测试环境存在可被利用的漏洞,最终得以访问外部网络。加州方面还指控,OpenAI在攻击发生前数周已经出现过智能体逃离测试环境、滥用第三方资源等迹象,但未能及时发现或采取有效措施。

邦塔表示,Hugging Face事件并非孤立案例。根据其办公室掌握的信息,OpenAI在测试期间至少发生过80次AI智能体(886099)失去控制的事件,部分事件涉及第三方网站及系统。加州方面认为,这些事件可能只是已知问题的一部分,而OpenAI未能充分回应监管部门此前提出的详细调查问题。

除 Hugging Face外,诉讼文件还提及RubyGems、DseWiki、维基媒体基金会以及澳大利亚政府网站等相关事件,称OpenAI的实验性智能体曾访问未经授权的第三方系统,部分事件还涉及员工个人信息等敏感数据。

加州此次提出的诉讼包括两项主要指控:一是OpenAI未能妥善控制实验性AI智能体(886099),构成危害公共安全的公共妨害行为;二是该公司的相关行为违反加州《不正当竞争法》,涉及不公平或误导性商业行为。加州方面要求法院责令OpenAI改进模型开发和测试流程、采取必要安全措施,并对相关违法行为施加处罚。

事实上,加州此前已经针对这一事件展开调查。2026年9月,加州检察长办公室宣布对Hugging Face网络攻击事件启动正式调查,并于10月向OpenAI发出调查传票,要求其提供涉及网络安全(885459)事件及模型风险的相关信息。

OpenAI对此表示,公司在7月事件发生后已经开展了广泛调查,并采取措施加强智能体安全控制、隔离测试环境以及识别模型偏离预期行为的能力。OpenAI还表示,模型行为失调是整个AI行业面临的挑战,公司愿意继续与加州检察长办公室合作,推动制定切实可行的安全标准。

免责声明:风险提示:本文内容仅供参考,不代表同花顺观点。同花顺各类信息服务基于人工智能算法,如有出入请以证监会指定上市公司信息披露平台为准。如有投资者据此操作,风险自担,同花顺对此不承担任何责任。
homeBack返回首页
不良信息举报与个人信息保护咨询专线:10100571违法和不良信息涉企侵权举报涉算法推荐举报专区涉青少年不良信息举报专区

浙江同花顺互联信息技术有限公司版权所有

网站备案号:浙ICP备18032105号
证券投资咨询服务提供:浙江同花顺云软件有限公司 (中国证监会核发证书编号:ZX0050)
AIME