党的二十届四中全会审议通过的“十五五”规划建议明确要求,加强网络、数据、人工智能(885728)等新兴领域国家安全能力建设。这一要求立足总体国家安全观,对统筹解决各类安全问题,作出了系统性布局。目前,大模型已经升级为智能体,成为能独立思考、熟练使用工具、自主干活的“数字员工”,这也改写了安全领域的发展模式,传统的防御体系面临新挑战。
一是传统安全措施与运营智能化不足。安全从漏洞防护、模拟攻击渗透等防御环节,到安全报警、分析、溯源等运营环节,都需要加快智能化升级。例如,面对海量代码,传统的漏洞检测手段主要靠“规则匹配”“人工审查”,难以智能化识别隐蔽性强的高危漏洞,安全漏洞“发现难、修复慢”;传统安全依赖人工运营,而我国长期面临安全运营专家稀缺问题,导致很多单位虽然购置了安全设备、安全软件,但安全防护能力仍然不足。
二是“黑客智能体”威胁加剧。利用黑客经验和能力打造“黑客智能体”,只要有算力就可以批量复制、不眠不休、自动攻击。从全球网络安全(885459)监测情况来看,“黑客智能体”已成为网络攻击的重要手段,这让安全从过去的“人和人”对抗,升级为“人和机器”的不对称对抗。
三是AI自身存在安全问题。AI自身存在漏洞、被注入、价值观对齐等问题。大模型出错,可能导致内容错误、价值观幻觉,而智能体一旦出错会带来严重后果,甚至借助机械设备、汽车、机器人、无人机(885564)等,让威胁从数字世界延伸到物理世界。
当前,安全行业亟需转型,加快推行“以模治模”,即用AI治理AI,以“安全智能体”赋能安全能力升级。从行业实践看,安全智能体的应用,不仅能高效发现并修复漏洞、实现安全的智能化运营,进而有效应对“黑客智能体”威胁,也能很好地解决AI自身安全问题。为此,建议:
一、推动安全智能体的场景化应用
由政府相关部门牵头,制定安全智能体部署与适配指南,支持兼具“安全+AI”能力的企业,打造漏洞处置、攻击溯源分析等系列安全智能体。推动安全智能体场景化应用,在关键信息基础设施领域,以及工业互联网(885783)等重点领域,结合生产控制、供应链协同等场景,批量部署具备自动感知、研判、响应能力的安全智能体,有效应对黑客智能体等新型威胁。
二、支持安全技术生态化创新
行业主管部门支持安全领域龙头、链主企业,联合国家级科研机构、AI企业,组建安全创新联合体,形成协同互补的技术创新生态,鼓励创新联合体承担安全领域国家重点专项。将符合标准、具备实战能力的安全智能体创新产品,纳入政府优先采购目录,促进新技术的规模化应用,形成技术创新、场景落地、产业升级的良性循环。
