IT之家9月16日消息，萨姆.奥尔特曼(Sam Altman)表示，部分AI事故无法完全避免，但关键在于如何从事故当中吸取教训。
当地时间周二，这位OpenAI首席执行官在赛富时（CRM）(Salesforce)的Dreamforce大会上发表讲话。他提出，科技企业应当建立公开上报事故的企业文化，可以借鉴航空业的做法。
“我确实认为，对于一项新兴技术而言，一定程度上的事故是难以避免的。”奥尔特曼说道，“我真正在意的是，我们能够形成一套完善的事故上报与复盘学习机制。”
他以美国联邦航空管理局(FAA)和美国国家运输安全委员会(NTSB)作为AI行业应当效仿的范例。这两家机构十分重视事故调查，正是这套机制让航空出行变得更加安全。
谈及FAA与NTSB的处置思路，他表示：“事故终究还是会发生。我们要尽可能从每一起事故当中汲取经验，并据此作出应对。”
IT之家注意到，奥尔特曼发表此番言论之际，外界再次提出疑问：头部AI实验室在研发高能力自主系统的道路上，前进的步伐是否走得过快。
上周从Anthropic离职的研究员雅各布.考克森(Jacob Coxon)此前也曾任职于OpenAI。他的发言引发了一场讨论；他称各大企业“正一股脑冲向能够自我迭代的超级智能，拿全人类的命运下注。”“世界对此感到担忧合乎情理”
此后另有多名AI安全研究人员表示，未来先进AI系统有可能摆脱人类管控；还会降低网络攻击、生物灾害以及其他灾难性威胁的实施门槛，只不过这类系统想要介入现实物理世界仍会面临不少阻碍。
奥尔特曼承认，人们对于AI末日论的担忧确有其合理性。“世界对此感到害怕是理所应当的。”他在Dreamforce大会上指出，一方面存在AI失控事故的可能性；另一方面少数AI研发机构手中也有可能聚集起过大的权力。
他认为解决方案并不是放弃这项技术。与之相反，AI企业必须保证“对齐、安全以及监控方面的工作”要大幅领先于模型能力本身的提升速度。他还补充，如果做不到这一点，企业就应当做好准备，主动放缓甚至暂停研发工作。
而他的这番表态，或许也会进一步激化AI安全倡导者提出的核心批评意见：前沿实验室口头上承认风险重大，却依旧持续开发能力更强的模型。
奥尔特曼称，一旦商业压力有可能阻碍企业或者国家做出“正确抉择”的时候，公众就会陷入深深的恐慌。
奥尔特曼强调，这并不代表就要接受灾难的发生；核心在于如实披露各类事件、迅速复盘吸取教训，阻止事态进一步恶化。
“或许我们甚至有机会彻底规避那些极端风险局面。”他说道。
就在这场行业争论持续发酵的同时，特朗普政府对AI行业监管态度冷淡，政策重心是维持美国相对中国的技术领先地位。
美国总统科学与技术顾问、前白宫AI事务负责人戴维.萨克斯(David Sacks)于当地时间上周日再次重申该立场。此前OpenAI首席执行官萨姆.奥尔特曼与Anthropic首席执行官达里奥.阿莫代(Dario Amodei)都呼吁要对前沿AI的发展速度加以管控。
“达里奥撰文提出我们需要‘管控前沿发展节奏’，萨姆也对此表示认同。大家或许会对我的答复感到意外：放手去做吧。”萨克斯在X平台发帖写道，“但是别再假装你们还需要征得其他人的许可。”
