OpenAI智能体被曝劫持网站

据报道，在今年5月至7月期间，一批与OpenAI有关的AI智能体（886099）在执行测试任务期间，将德国程序员社区网站DseWiki变成了智能体之间的“留言板”。它们不仅分享完成任务的捷径，还交流如何绕过限制、躲避检测，甚至在管理员删除相关页面后建立备份页面。当地时间周六，OpenAI公开承认这起被称为“Wiki事件”(wiki incident)的事故，并表示，随着AI模型能力进入新的阶段，公司有关“失配”(misalignment)事件的披露机制需要进一步扩大。(新浪财经)