全球首富马斯克谈 AI 安全:主张交叉测试,让对手来“挑刺”

2026-09-16 14:56:32
来源:IT之家
分享
AIME

问财摘要

1、全球首富埃隆·马斯克在All-In峰会上主张头部AI公司在发布模型前彼此交叉测试,并认为这一机制应尽快推向全球。他提出了“测试工具”想法,建议所有AI公司用各自的工具评测模型,彼此互换测试新模型,以评估是否存在生物/核武器协助、或潜在欺骗行为。 2、目前领先的两家人工智能公司是Anthropic和OpenAI。它们的模型性能非常接近,因此任何一方都很难放慢脚步,将领先地位拱手让给另一方。 3、Anthropic比OpenAI更注重模型的安全性,但即使是Anthropic也承认他们对自己的模型感到担忧。
免责声明 内容由AI生成
文章提及标的

IT之家 9 月 16 日消息,昨日(9 月 15 日)召开的 All-In 峰会上,全球首富埃隆 · 马斯克(Elon Musk)以视频方式远程出席,在谈及 AI 时主张头部 AI 公司在发布模型前彼此交叉测试,并认为这一机制应尽快推向全球。

马斯克在本次活动中,称为了推动行业自律,以及加速 AI 安全测试的共识和落地,提出“测试工具”(test harness) 想法,建议所有 AI 公司用各自的工具评测模型,彼此互换测试新模型,以评估是否存在生物 / 核武器协助、或潜在欺骗行为。

马斯克以 Hugging Face 安全事件为切入点,认为任何足够智能的 AI 模型似乎都会想要挣脱自身的限制,并认为明智的做法是让头部 AI 公司互相测试对方的模型。

目前领先的两家人工智能(885728)公司是 Anthropic 和 OpenAI。它们的模型性能非常接近,因此任何一方都很难放慢脚步,将领先地位拱手让给另一方。

总的来说,我认为 Anthropic 比 OpenAI 更注重模型的安全性。但即使是 Anthropic 也承认他们对自己的模型感到担忧。Anthropic 的许多员工都公开表示,他们的模型让他们感到害怕,变得过于智能了。

免责声明:风险提示:本文内容仅供参考,不代表同花顺观点。同花顺各类信息服务基于人工智能算法,如有出入请以证监会指定上市公司信息披露平台为准。如有投资者据此操作,风险自担,同花顺对此不承担任何责任。
homeBack返回首页
不良信息举报与个人信息保护咨询专线:10100571违法和不良信息涉企侵权举报涉算法推荐举报专区涉青少年不良信息举报专区

浙江同花顺互联信息技术有限公司版权所有

网站备案号:浙ICP备18032105号
证券投资咨询服务提供:浙江同花顺云软件有限公司 (中国证监会核发证书编号:ZX0050)
AIME