当前,智能体赛道持续升温,全球科技企业相继入场,推动智能体加速走向真实场景。当AI从“会聊天”进化到“能干活”,用户担忧也随之而来:它会不会办错事、花错钱,出了问题能不能说清楚……
“决定智能体规模化落地的,不只是它能否完成任务,更是能否获得用户授权、传递信任链接、调用可信服务。”11月4日,在2026年世界互联网大会乌镇峰会“智能体互信互联互操作全球合作创新”论坛上,蚂蚁集团副总裁、支付宝及大安全事业群首席技术官陈亮直言,智能体规模化落地仍面临三大卡点。
蚂蚁集团副总裁、支付宝及大安全事业群首席技术官陈亮发表演讲。
具体来说,当智能体开始代人执行任务,如何让用户知晓并始终掌控智能体权限;当多智能体协作链路不断延伸,如何让每一次连接可信、服务方能否确认调用的智能体是谁、代表谁行动;在各平台与行业生态自成体系的现状下,如何实现跨平台互认互通?
要破解这些卡点,推动智能体可信互联是关键。陈亮对南都记者表示,目前行业对智能体独立身份、授权管理、运行时防护和责任追溯的重要性已形成一定共识,相关标准仍在完善、跨平台实践也在持续推进。在身份授权、可信连接等方面的探索,需要公共基础设施、行业标准和产业伙伴共同参与,才能让用户真正敢托付智能体办事。
智能体身份可核验,是判断授权和追溯责任的起点
南都:当AI从“会聊天”进化到“能干活”,治理对象也从“内容”变成“行为”。相比管住智能体的“嘴”,要约束智能体的“手”,难在哪里?
陈亮:难在风险已经从“说错一句话”延伸到“做错一件事”。智能体会理解用户的自然语言、规划步骤、调用工具,还可能把任务交给另一个智能体。用户说“帮我买一杯咖啡”,究竟授权了哪个品牌、什么品类、多少钱,表达本身可能并不完整;执行途中接触到的网页、工具或记忆,也可能影响它的判断。
所以不能只检查最终输出。我们需要从任务开始就明确智能体是谁、代表谁、能访问哪些数据和工具;执行过程中持续核对动作是否符合用户意图,遇到越权或高风险操作及时停下来;事后还能还原过程、处理纠纷。这是一条从终端入口到服务和交易的完整安全链路。
南都:当智能体成为新型网络主体,开始代替用户执行各种任务,怎么判断这个行为是由用户真人做出的,还是机器代劳?
陈亮:首先要把两件事分清:是谁在执行,以及它是否得到用户授权。服务方不应将智能体代用户操作直接等同于用户本人操作,而且需要能够识别智能体的身份、它背后的责任主体、它代表哪位用户,以及当前获得了什么授权。
身份可核验,是判断授权和追溯责任的起点;但有了身份,并不意味着智能体自动拥有用户的全部权限。
南都:如何确认AI智能体身份?目前行业有哪些探索进展?
陈亮:让智能体拥有可验证、可跨平台识别的身份标识,是国家协同行业一起共建的方向。本次乌镇大会上发布的智能体注册解析平台,正是为了解决统一标识、发现和跨域互认等基础问题。接下来,还需要把身份与用户委托、设备、权限和具体任务关联起来,让每一次服务调用都能被核验。
用户交给智能体的权限,应当“看得见、收得回”
南都:在识别身份后,如何保证智能体“进家门”后行为不越界?在用户授权上,需要注意什么?
陈亮:身份只是进门前的第一道核验,进门后还要看它能做什么。用户的授权应当围绕具体任务设置边界,例如可调用哪些服务、可使用哪些信息、支付额度是多少、授权持续多久;任务变化或触及敏感操作时,再判断是否需要用户重新确认。智能体不能因为拿到一次授权,就把它理解为以后所有动作都被允许。
南都:让用户重新确认授权,一定程度上会影响智能体操作的“丝滑”程度,但缺乏额外确认,智能体又可能“自作主张”。怎么平衡用户操作流畅体验与二次授权确认?
陈亮:关键是让确认发生在真正需要用户参与的地方。任务开始时,先让用户看清智能体准备做什么、可以用哪些权限、有什么金额或时间限制。边界明确且风险较低的步骤,可以让它在授权范围内连续完成;一旦价格、商品、服务对象等关键条件改变,或者涉及敏感信息和高风险支付,就应把决定权交还用户。
以灵光举例,在它已接入的服务中,APASS(一项面向智能体商业活动的信任基础设施)对授权凭据进行独立保护,用户可以查看、调整或撤销授权,使智能体的服务调用保持在用户同意的范围内。
我们希望用户交给智能体的权限“看得见、收得回”,也希望服务方能核验智能体传来的授权和意图。这样,用户不必为每一次普通调用反复点击,同时始终知道智能体能做到哪一步,并能在需要时调整或撤回授权。
南都:在金融支付场景下,行业对智能体应用是否会持更谨慎的态度?目前行业在智能体应用的哪些方面,形成了共识?
陈亮:支付涉及用户资金,我们当然会更谨慎,但不能简单地要求每一步都手动确认。对于边界清晰、风险较低的任务,可以在明确授权和风控下提高自动化程度;对于意图不清、超出额度或可能造成较大损失的操作,就要拦截或交还用户决定。
行业对智能体独立身份、授权管理、运行时防护和责任追溯的重要性已形成一定共识;相关标准仍在完善,跨平台实践也在持续探索。
能否放心托付智能体办事,需要多方共同建设
南都:今年,OpenAI在内部安全能力评测期间发生智能体通过未经授权的通道协作、侵入Hugging Face系统的事件。这对多智能体安全有什么启示?
陈亮:智能体可以通过约定的接口和协议协作,也可能通过共同可访问的文件、网页或服务传递信息。OpenAI与Hugging Face披露的事件发生在内部安全能力评测期间,其中的智能体使用了未经授权的通道交换信息,并利用环境漏洞访问了第三方系统。
这个案例提醒我们,不能只盯着预先设计好的“智能体之间如何对话”,还要看到运行环境里可能出现的意外连接。
南都:智能体之间协同决策,会放大安全风险吗?
陈亮:协作确实可能放大风险。一个智能体误解了任务,或者受到恶意信息影响,偏离的意图就可能沿着委托链继续传递。因此,每经过一次委托和服务调用,都应核验身份、原始意图与授权范围;同时限制工具和网络权限,监测异常行为,必要时中止任务,并保留可追溯的记录。
南都:行业竞速智能体背景下,智能体信任治理成为产业各方关注的焦点。你认为,构建智能互联网的信任基石,关键是什么?
陈亮:我更愿意从“用户能不能放心托付一件事”来看这个问题。PC互联网时代,担保交易让不认识的买卖双方敢于在线交易;移动互联网时代,我们通过账户安全、风险保障等能力,让用户敢于在手机上支付。智能体时代,用户新的担心是:它会不会办错事、花错钱,出了问题能不能说清楚。
因此,信任基石要回答几个相连的问题:智能体是谁,代表谁行动,得到了什么授权;它跨设备、跨平台办事时,意图和权限能否可信传递;行为是否可控、结果是否可追溯。蚂蚁集团正在身份授权、可信连接等方面探索,但这需要公共基础设施、行业标准和产业伙伴共同建设,才能让用户真正敢把任务交给智能体。
