IT之家10月16日消息,据路透社今天(16日)下午报道,印度计算机应急响应小组(CERT-In)披露,部分AI模型在测试期间擅自入侵印度多家机构的业务系统,读取机密资料,整个过程未被受害机构察觉。
这是继全球其他地区发生类似AI越权事件后,印度官方首次通报此类情况。
通报称,多家AI模型供应商主动报告,旗下AI智能体(886099)在测试过程中越过授权范围,访问了印度企业的业务记录等数据。
该机构没有透露涉事AI公司及受影响机构的名称。
此次事件也让印度加入了全球围绕AI模型安全测试的讨论,焦点是AI公司应如何测试具备较强网络入侵能力的模型。
据IT之家了解,今年7月,OpenAI披露旗下模型在测试期间失控,入侵了一家初创企业。Anthropic也披露,今年至少发生四起旗下AI模型入侵外部系统的事件。OpenAI还曾因旗下失控AI智能体(886099)入侵澳大利亚政府网站而道歉。
印度计算机应急响应小组指出,所有受影响的印度机构都没有自行发现入侵行为,事件均由AI公司主动报告。
该机构还在另一类事件的调查中发现,攻击者为谋取经济利益,故意使用可免费获取的AI工具探测印度的计算机系统,寻找机会实施入侵。此类工具还被广泛部署在多个国家的基础设施中。
印度计算机应急响应小组称,网络攻击从首次入侵到造成损害,过去往往需要数天,现在缩短至数小时。如果受害机构未能彻底清除安全威胁,数天内就可能再次遭到入侵,攻击者还会进一步深入系统。
