过去一段时间，AI造假在多个领域现形，从商业到娱乐再到社会公共事件，戳穿了“眼见为实”的信任底线。
人们相信自己看到的，对亲眼所见有天生信赖，认为视频内容是实际发生的记录，别有用心者利用公众此种心理，进行拼接，或者无中生有。
10月19日，山姆发布声明，称多个社交平台集中出现数千条针对山姆的恶意攻击及虚假营销信息。部分不良主体通过AI生成、拼接素材、伪造采访等方式，批量制造内容高度雷同的不实信息，将从未在山姆上架的洗护、保健品、食品等品类商品，编造成“山姆下架好物”进行欺骗性营销，引流牟利。山姆法务已完成证据固定，向平台及监管部门投诉举报。
18日凌晨3点，演员吴越在微博（WB）怒斥某自媒体账号冒用其形象与声音带货，质问对方“骗了多少人的钱？请如数奉还”。该自媒体账号除了冒用吴越个人形象和声音，乒乓球名将邓亚萍也未能幸免。
而在一则洗护带货短视频里，林心如也成为带货主，林心如确实代言了该产品，但未授权用AI换脸/变造广告，团队发律师函要求下架。
从上述事件可以看到，AI大幅降低了视频造假的门槛，普通人和企业却背负了信任成本。过去要伪造一段名人口播带货，需要真人出镜、专业剪辑、配音，造假成本高，破绽多。如今一段AI换脸、声音克隆，几分钟就能完成，面容声音高度逼真，不仔细分辨很难看出破绽。普通人很轻易就可以掌握这些技术，技术门槛的下降，让批量制造成为可能。
更棘手的是信任成本的错位。造谣者只需几十元算力，受害者却要投入时间、精力、法务成本去自证清白。山姆要发声明、固定证据、投诉举报，明星要发微博（WB）质问、走法律途径。如果受害的是普通人，维权起来更为困难。
值得警惕的是，短视频标注“AI”字样成为免责条款。平台要求AI生成内容标注，初衷是保障受众知情权、防止误导。但在吴越事件中，视频明确标注“含AI生成内容”，却依然挂着商品链接、用“回馈老粉丝”话术诱导消费（883434）。
要遏制这种低成本造假的蔓延，需要平台严加监管，标注AI生成不能止于“声明”，审核机制必须穿透到内容实质，AI生成内容是否涉及时事、公共事件、真实人物肖像？是否挂载商品链接、具备商业转化目的？要强化肖像核验、真实授权审查与流量管控。
监管要补齐规则与处罚的短板。现行《生成式人工智能（885728）服务管理暂行办法》要求AI生成内容标识，但对企业与个人的惩戒仍需细化。让造假者付出远高于造假的违法成本，才能真正形成威慑。
