欧盟围堵算法成瘾

2026-11-10 23:22:04
来源:北京商报
分享
文章提及标的
人工智能--
Meta--
消费--
查看股票机会下载客户端

从让人停不下来的短视频,到借助情感互动留住用户的聊天机器人,科技公司争夺用户时间的产品设计,正成为欧盟新一轮监管的焦点。欧盟委员会拟推出最新法案,要求社交平台等允许用户关闭诱导强迫性或过度使用的功能,并将利用模拟人际关系延长互动的AI(人工智能(885728))系统纳入监管,违规企业可能面临最高相当于全球年度营业收入6%的罚款。

关掉“成瘾设计”

据多家媒体报道,《数字公平法案》(Digital Fairness Act)草案一项关键要求,是让用户能够主动关掉那些不断把自己“拉回”应用的功能,包括自动播放、与用户自身活动无关的通知,以及连续打卡式奖励机制。按照草案,企业将须向成年用户提供关闭这类功能的选择。

这项法案可能影响Meta(META)、谷歌等科技巨头,以及一众电商平台。这些企业旗下的服务,很大程度上依赖与用户打“心理战”:要么是通过机制设计拉长留存时间,或是通过运营手段诱导用户买单。

AI聊天机器人也是此次草案的重要关注对象。按照媒体披露的内容,如果AI系统通过模拟人际关系来鼓励用户持续互动,相关功能也将受到约束,用户应有权将其关闭。

从商业模式看,这类规则可能触及平台提高用户留存和使用时长的常用手段。对于依靠广告变现的社交平台,用户停留时间与广告展示机会密切相关;对于AI应用,持续互动则可能影响用户活跃度和付费转化。

欧盟针对“成瘾设计”的行动早有铺垫。今年2月,欧盟委员会依据现行《数字服务法》,初步认定某短视频平台的成瘾性设计违反相关规定,涉及功能包括“无限滚动、自动播放、推送通知和高度个性化的推荐系统”。

拟议中的《数字公平法案》将进一步从消费(883434)者保护角度处理这些问题。欧盟委员会公开资料显示,该倡议的重点包括操纵性界面设计、数字产品的成瘾设计、不公平的个性化做法,以及数字合同等问题,尤其关注未成年人等易受影响的消费(883434)者。

欧盟委员会的影响评估估计,这些规定将在2025年至2035年间为消费(883434)者避免884亿欧元的经济损失。如果将不公平做法造成的时间损失也计算在内,每年带来的收益预计为137亿欧元。相比之下,在避免重复计算各项措施的成本后,企业为遵守新规每年需持续支出的费用预计合计为6.78亿欧元。

平台不再免责

不只是欧盟,对手机成瘾和算法推荐的争议从未停止。2026年初,一场备受瞩目的集体诉讼案开庭。美国洛杉矶高等法院围绕一起“社交媒体成瘾”集体诉讼案展开庭审。20岁女孩K.G.M.(凯莉)是其中一名原告。

她指控,Meta(META)旗下的Facebook、Instagram和谷歌旗下的YouTube等社交媒体,通过“诱导性成瘾设计”导致其从童年起便手机成瘾。法庭证词显示,在青少年时期,凯莉每天在社交媒体上耗费的时间长达16小时。

2月,凯莉在庭审中表示,社交媒体的滤镜、美颜工具以及算法推荐的内容,不断强化她对外貌和身材的不安。长期沉迷之下,她患上了身体畸形恐惧症,过度依赖美颜滤镜。此后,她产生严重的抑郁问题,一度产生自杀倾向。

相比过往案例更特殊的是,凯莉此次将矛头对准了社交媒体系统的设计和架构。一个关键证据是,律师在庭审中曝光了一份Meta(META)内部文件。在2015年,Meta(META)内部讨论曾提及,要利用青少年的心理弱点,留存住更多用户。

3月,洛杉矶法院作出裁决,认定Meta(META)与谷歌在应对青少年因使用社交媒体而造成心理伤害一事上负主要侵权责任,判决600万美元作为赔偿。这一判决被解读为里程碑事件。“技术中立”不再成为平台免责的理由。

不仅如此,美国加利福尼亚、科罗拉多等4个州指控Meta(META)刻意将旗下的Facebook、Instagram设计为易让未成年人沉迷的算法模式,刻意隐瞒平台对青少年心理健康的负面影响,要求支付1.4万亿美元的巨额罚款。

康奈尔大学法学教授亚历山德拉.拉哈夫指出:“该案件预示着,针对大型科技公司的诉讼浪潮即将到来,对社交媒体的侵权诉讼将达到空前规模。”

专家认为,如果法律风险持续累积,败诉代价变得足够高昂,科技公司将被迫认真重新设计产品。美国企业研究所媒体法专家克莱.卡尔伯特表示:“前路漫长,但这一决定意义重大。如果一系列类似裁决生效,将迫使被告(科技公司)重新思考社交媒体平台的设计,以及该如何提供内容。”

强监管浪潮

青少年上网成瘾问题如同一根导火索,点燃了全球对社交平台的重新审视,并引发强监管浪潮。2025年12月起,澳大利亚正式实施全球首个针对社交媒体年龄限制的制度。Facebook、Instagram等平台需要采取“合理措施”,阻止16岁以下用户创建账号。值得注意的是,该政策并非直接禁止未成年人上网,而是要求平台承担年龄验证和账号管理责任。

法国也曾尝试采取类似路径。今年7月,法国议会通过一项禁止15岁以下用户使用社交媒体的法案,但随后被叫停。法国宪法委员会认为,该法案在表达自由、隐私保护以及年龄验证机制方面存在问题,需要重新修改。

英国则正在推进更严格的监管方案。政府已经宣布计划禁止16岁以下用户使用社交媒体,目前仍需等待议会审议,预计最快将在今年年底前完成立法,并于明年春季生效。

推进年龄限制的同时,各国也开始将目光投向社交媒体平台应尽的责任——优化产品功能与平台内容。有分析认为,推荐算法、无限滚动、推送通知、陌生人联系等平台产品功能均需要针对未成年人进行调整,以减少算法的成瘾性、提供便捷的监护人控制功能和限制对用户有害的内容传播等。

深耕儿童数字权利的国际组织“五权基金会”指出,过去面对未成年人,社交平台和政府一般强调风险评估。这时,“风险”被狭义理解为传播暴力、色情等内容。平台自身的算法设计和功能带给人的伤害,却被监管部门忽视了。

现在,“平台系统设计风险”正在被越来越多人看到。很多人意识到,比起直接传播危害身心的内容,社交媒体和科技平台为了更多人的屏幕时长,设计出的无限滚动、自动播放、推送通知、个性化推荐等功能,才是更危险的。越来越多拟出台的法案和正在进行中的判决,都将矛头指向了同一件事:科技平台应对其影响日益巨大的虚拟世界负主要责任。

免责声明:风险提示:本文内容仅供参考,不代表同花顺观点。同花顺各类信息服务基于人工智能算法,如有出入请以证监会指定上市公司信息披露平台为准。如有投资者据此操作,风险自担,同花顺对此不承担任何责任。
homeBack返回首页
不良信息举报与个人信息保护咨询专线:10100571违法和不良信息涉企侵权举报涉算法推荐举报专区涉青少年不良信息举报专区

浙江同花顺互联信息技术有限公司版权所有

网站备案号:浙ICP备18032105号
证券投资咨询服务提供:浙江同花顺云软件有限公司 (中国证监会核发证书编号:ZX0050)
AIME