IT之家7月16日消息，据路透社报道，埃隆.马斯克旗下AI初创公司xAI对南卡罗来纳州男子特里.哈伍德提出诉讼。
哈伍德今年2月因涉嫌性剥削未成年人被捕，xAI指控他滥用Grok生成儿童性虐待材料。当地时间周二，xAI向得克萨斯州一家联邦法院提交诉状，指控哈伍德违反服务条款。
AI公司主动起诉用户涉嫌利用AI生成色情内容的案例，此前极为少见。
诉讼提交之际，xAI正因Grok的内容安全问题受到全球审视。外界指控Grok允许用户制作未经当事人同意的色情深度伪造内容，包括由AI生成、外观逼真的虚假视频。
xAI在诉状中提到，公司会暂停或终止违规账户，并向美国国家失踪与受虐儿童中心报告疑似儿童性虐待材料，以执行平台规定。“事实上，原告已在2026年暂停52222个账户，并向美国国家失踪与受虐儿童中心提交73604份报告，促成至少244人被捕。”
据IT之家了解，xAI指控哈伍德把成年人和未成年人的普通照片上传至Grok，随后试图生成以照片人物为对象的色情深度伪造内容。哈伍德还被指制作未经成年人本人同意的色情图像。
xAI要求法院判令哈伍德支付金额尚未确定的赔偿金，并永久禁止他使用Grok。“被告经过蓄意策划，把原告的工具变成犯罪武器，不仅给真实受害者造成深重而持久的伤害，也使原告面临重大法律风险和声誉损失。”
