刘云淮:为第三方应用提供标准化的边界声明渠道

2026-09-23 14:14:50
分享

智能体能够借助大模型生成程序,传统的软件安全手段是否仍然适用?在经济参考报社与中国科学院软件研究所联合举办的“智能体时代的移动终端生态”研讨会上,北京大学教授、北京大数据研究院院长刘云淮给出了肯定的回应:防范智能体风险,既有的软件安全手段仍有作用,可以从数据访问权限和操作执行两个方面入手。

刘云淮认为,智能体的风险未必比传统应用更大。数据被不当获取、程序执行危险操作等问题,在传统应用中同样存在。智能体虽然能够利用大模型生成程序,但其数据访问和操作行为仍然需要受到约束。在数据访问上,应用不能获得的数据访问权限,智能体同样不应获得;在操作执行上,应用不能执行的操作,智能体同样不能执行。应用通过声明把这两类边界定清楚,系统据此统一执行,从而使安全约束有了明确、可核查的标准。

研讨会之前,豆包手机助手推出屏幕自动化操作声明协议(SAEP),探索智能体创新发展趋势下切实可行的协作方案,尝试通过协议把安全边界转化为应用可以自主声明的规则。

刘云淮表示,应当把“哪些数据能访问、哪些操作能执行”的边界决定权交还给应用本身,让智能体在公开规则下开展跨应用协作。在他看来,守住数据访问和操作执行这两端,同时保持开放竞争,智能体的创新与安全就能实现协调统一。

免责声明:风险提示:本文内容仅供参考,不代表同花顺观点。同花顺各类信息服务基于人工智能算法,如有出入请以证监会指定上市公司信息披露平台为准。如有投资者据此操作,风险自担,同花顺对此不承担任何责任。
homeBack返回首页
不良信息举报与个人信息保护咨询专线:10100571违法和不良信息涉企侵权举报涉算法推荐举报专区涉青少年不良信息举报专区

浙江同花顺互联信息技术有限公司版权所有

网站备案号:浙ICP备18032105号
证券投资咨询服务提供:浙江同花顺云软件有限公司 (中国证监会核发证书编号:ZX0050)
AIME