智能体“行为治理”时代——政策升级与安全新范式

2026-08-13 17:44:27
作者:绿盟君
分享
文章提及标的
绿盟科技--
周期--
消费--
能源--
查看股票机会下载客户端

前 言

当前,智能体技术已经完成了关键迭代,彻底告别了以往“被动响应”的Copilot辅助模式,全面迈入了AI自主运行的Agent全新阶段。传统人机协作模式被打破,安全风险也从“内容合规”升级为“行为失控”。今年5月我国正式印发《智能体规范应用与创新发展实施意见》,系统构建了智能体发展与治理的政策框架。

本期《绿盟君的咖啡时间》邀请到绿盟科技(300369)解决方案高级经理张铮,带来智能体技术趋势与最新政策的核心分享,让我们共同探寻智能体安全落地的可行路径。

| 以下为部分对话摘要|

1、请您给正在布局智能体的企业一些实操建议吧,安全建设应该从哪里起步?

从顶层设计来看,今年5月我国正式发布了《智能体规范应用与创新发展实施意见》,其中释放的最明确信号就是——智能体的竞争已经从“能力竞争”进入了“可信竞争”阶段。未来客户采购或者自建智能体,评估维度一定会从“模型够不够强”扩展到“安全可信体系够不够完善”这个层面。

这里给我们的企业客户两个核心行动建议。

第一,坚持“安全左移”理念。不要等智能体上线了再打安全补丁,要在产品架构设计阶段,就把身份注册、权限控制、风险确认、审计追踪、供应链安全、异常响应、应急恢复这七大要素嵌入进去。事后补安全的成本是安全前置设计的数倍,而且防护效果还会大打折扣。

第二,用“九问九有”原则快速自查。企业可以对照绿盟科技(300369)设计的智能体九个问题自检短板:有没有清晰身份、有没有能力声明、有没有权限边界、有没有用户授权机制、有没有高风险动作确认、有没有日志和审计、有没有异常检测、有没有供应链管理、有没有退出召回恢复机制?这九个问题刚好对应政策的核心合规要求,也是企业智能体安全的基础底盘。

那么对于金融、医疗、交通、能源(850101)等涉及国计民生的行业,建议优先从智能体安全测评、运行时行为管控、供应链安全管控三块入手,先守住合规底线,再逐步完善全生命周期(883436)防护体系。

2、《智能体规范应用与创新发展实施意见》与之前的大模型监管政策相比,最核心的突破是什么?

最本质的突破,是监管对象从“大模型”逐渐延伸到“智能体”,治理逻辑也是从“管住模型说什么”逐渐升级为“管住智能体做什么”。

文件提出了几个方面举措:夯实发展基础、守牢安全底线、强化应用牵引,主要围绕科学研究、产业发展、提振消费(883434)、民生福祉以及社会治理等方向推动落地。

所以《实施意见》的核心价值,就是提前完成了治理范式的转换:不再只盯着输入输出的内容,而是要把安全要求贯穿智能体研发、部署、运行、维护的全生命周期(883436),从感知环境、记忆存储、任务规划、工具选择到权限执行,每个环节都要有管控机制。这不是一份普通的行业规范,而是为智能体治理划定了赛道的规则。

3、对于企业来说,这份文件的哪些条款是最核心、最需要提前落地的合规要求?

有四个核心方向,直接决定了企业智能体应用能不能合规落地。

第一是权限边界管控。政策中明确划分了三类决策权限:仅限用户本人决策、需用户授权决策以及智能体自主决策,核心原则是“人为主,机为辅”,用户享有最终决策权。这就要求企业不能只做粗放的账号权限管理,必须细化到任务级、工具级、场景级权限,每次授权都要有明确授权主体、授权范围、有效期、撤销机制与二次确认规则。

第二是行为围栏与全周期(883436)管控。政策提出“规则内嵌、行为围栏”,要求安全能力嵌入智能体运行全过程,实现运行时的风险实时分析与动态拦截,同时建立行为可验证、可追溯的机制。简单来说,不能等出了问题再回溯,要在任务规划、API调用、工具执行等各个中间环节就能及时发现异常并阻断。

第三是供应链安全管理。智能体高度依赖第三方模型、插件、API等等,政策专门要求加强模型接入、工具使用等环节的安全管理,探索供应链安全信息共享和预警机制。这是很多企业目前的安全盲区。

第四是智能体分类分级与身份管理。相关低风险场景轻监管,但是在政务、金融、医疗、交通、能源(850101)等行业的高风险场景实行强监管,需要备案、检测、认证。同时,国家层面布局智能体注册平台与数字身份管理,未来每个面向公众发布的智能体都要有可验证的“数字身份证”,绑定能力声明与权限边界。

4、能否再展开讲讲?具体应该怎么做?

其实,绿盟科技(300369)在AI安全领域的布局,恰好与政策框架形成了高度同频的呼应。我们围绕智能体安全构建了“四道防线”架构——覆盖基础设施管控、模型安全、智能体安全以及应用安全四个层面。

具体来说,我们的能力布局可以归纳为五个标准化赛道:

赛道一:智能体安全测评。基于国内外标准规范的合规指引,提供覆盖内容安全、对抗安全、基础设施安全以及Skills安全、MCP安全等方面的自动化测评工具,输出符合监管要求的第三方测评报告,支撑智能体安全评估整体体系的建设。

赛道二:运行时安全防护。实际上这也是我们的技术优势所在。通过多维检测与审计能力,以及Token安全管理与精细化熔断机制,实现攻击检测、权限管控、拦截阻断与运行失控防护,构建智能体运行时的安全管控能力。

赛道三:供应链安全。将传统软件供应链安全方法论延伸到智能体的场景当中,覆盖模型接入、API调用审计、工具安全扫描,建立供应链安全信息共享与预警机制,形成独立的智能体供应链安全产品品类。

赛道四:合规审计。我们的清风卫安全产品体系,在审计方面,已经全面覆盖“人员用户—智能体—Skills—外部工具”的代理关系,实现行为可验证、可追溯,可以支撑风险监测预警、检测评估与合规认证,满足常态化风险识别与动态干预的要求。

赛道五:平台治理。智能体安全管控平台提供多智能体场景下的安全防护与检测、AI资产管理等能力,支撑合规自测与信息报告,构建智能体应用安全的治理闭环。

同时,在身份管控这个方向,我们也提前布局了非人身份管理领域,为每个智能体分配唯一可验证的数字身份,绑定能力声明、权限边界和供应链清单——这与AIP协议提出的“智能体可信注册、身份管理与描述管理”形成了技术共振。

免责声明:风险提示:本文内容仅供参考,不代表同花顺观点。同花顺各类信息服务基于人工智能算法,如有出入请以证监会指定上市公司信息披露平台为准。如有投资者据此操作,风险自担,同花顺对此不承担任何责任。
homeBack返回首页
不良信息举报与个人信息保护咨询专线:10100571违法和不良信息涉企侵权举报涉算法推荐举报专区涉青少年不良信息举报专区

浙江同花顺互联信息技术有限公司版权所有

网站备案号:浙ICP备18032105号
证券投资咨询服务提供:浙江同花顺云软件有限公司 (中国证监会核发证书编号:ZX0050)
AIME