10月15日,由中国计算机学会主办的“第41次全国计算机安全学术交流会”在海口成功召开。启明星辰(002439)出席大会“关基保护与人工智能(885728)安全”分论坛,与业界人士共探AI时代安全防护新路径。
会上,启明星辰(002439)集团首席战略官潘柱廷在《AI时代全舆信息安全框架》主题演讲中表示,AI时代,AI功能属性与系统属性高度亲和,原有基于安全域的部署思路仍具效力,即以“域”为基础,将数据、语义、身份等新维度纳入统一防护。
他指出,网络安全(885459)的第一性问题仍是访问控制,即主体对客体的访问权限是否越权。AI大模型的突出挑战在于身份难以穿透大模型,导致其难以针对不同提问者作出差异化响应,需借助智能体或外围软件架构实现访问控制。
以“龙虾”类智能体为例,其最大风险在于自主性难以完全受控,工作意图和路径无法被完全掌握。应对方式可以很直接:将其“关进笼子”。网络安全(885459)域正是将安全属性、业务特点相同或相近的对象置于同一域中。将同类智能体划入同一安全域,云上可形成“龙虾网箱”,私有化部署则可设“龙虾专网”。当智能体向外发起攻击时,由域边界管控;外部针对智能体域的攻击,由边界网关防护。风险虽不能彻底消除,但可降至可接受程度。
在此基础上,潘柱廷进一步将“域”理念扩展至数据与AI。数据不像静态网络边界,更像“流域”,会跨机构流动;可信网络空间可跨边界形成新的可信数据交换域。AI语义同样可以分域,依据提问者身份、语义域和访问严密程度,差异化配置检查与算力投入,识别疑似恶意拆解提问。最终,网络域、数据域、语义域、身份域的理想状态是各域边界重合,这是最经济的方式;出现错位时,再补充特殊措施。
安全域的核心是经济性。域边界深度防御比逐对象开展深度防御成本更低。同域对象安全属性相近,边界措施可代表多数诉求,以一份投入解决大部分问题。因此,不必推翻既有安全域体系,而应继承并升级,通过域划分、图重叠映射,高效融合数据安全(885942)与AI安全,构建适应新形势的防护体系。
此外,在大会颁奖环节,启明星辰(002439)凭借在网络安全(885459)领域的突出贡献,以及长期以来对CCF发展工作的全面支撑,荣获“第41次全国计算机安全学术交流会特别贡献奖”。
面对人工智能(885728)技术加速演进带来的融合挑战,启明星辰(002439)以安全域思路为基础,持续探索网络域、数据域、语义域、身份域的融合防护,为关键信息基础设施行业提供更加可靠的安全保障。
