IT之家9月15日消息,在新一轮AI可能毁灭全人类的警告出现后,OpenAI CEO萨姆.奥尔特曼、Anthropic CEO达里奥.阿莫迪等AI企业负责人呼吁放慢技术发展。
因《大空头》而闻名的投资者迈克尔.伯里认为,这些呼吁只是在为他们自己谋利。他将OpenAI、Anthropic等AI企业负责人的减速主张称为“谋求自身利益之举”。
IT之家获悉,理由有四点:
AI聊天机器人并不会成为通用人工智能(885728)(AGI),因此“没有什么”需要限制。
减速“有利于现有企业”,会妨碍规模较小的对手参与竞争。
把 AI描述得强大到足以灭绝人类,会助长炒作与夸大宣传,为公开发行股票造势。
主动宣布减速,可以为实际发生、却无法控制的增长放缓打掩护。
据《商业内幕》报道,伯里在Substack专栏Cassandra Unchained中指出,Anthropic和OpenAI高层支持减速,是为了“在IPO前让外界觉得自己更有实力”。Claude和ChatGPT等大语言模型不会拥有真正的推理能力,所以至少眼下没什么可怕的。
在伯里发表上述评论前,阿莫迪撰文呼吁同行“放慢步伐”,给风险防范措施“留出跟上的时间”。奥尔特曼、马斯克和哈萨比斯等高管随后都在X上发帖,支持阿莫迪的呼吁。
曾任职于OpenAI和Anthropic的研究员雅各布.考克森就曾批评,两家前沿AI实验室“正直奔能够自我改进的超级智能,拿我们的生命下注”。
Anthropic另一名研究员埃文.休宾格也表达了同样的担忧,认为未来十年内AI“杀死全人类”的概率超过10%。
不过,华尔街和华盛顿都向美国AI巨头施加巨大压力,要求继续向前推进。
