奇安信副总裁刘前伟谈AI数据安全:用魔法打败魔法
4月26日,2024中关村论坛——数据安全治理与发展论坛在中关村国际创新中心举办。
记者了解到,本届论坛紧跟数字经济发展特别是人工智能演进浪潮,众多专家学者交流前沿理念、分享研究成果,畅谈前沿领域数据安全治理话题。
在圆桌论坛环节,清华大学苏世民书院院长、人工智能国际治理研究院院长薛澜,与来自清华大学、剑桥大学、香港科技大学、IBM、华为、奇安信的数据安全专家,就生成式人工智能数据安全治理热点问题进行探讨。
会上,奇安信(688561.SH)副总裁刘前伟表示,不管是作为大模型的使用者还是开发者,都要解决隐私安全问题、商业机密甚至涉及国家安全的问题。
他认为,要解决大模型的相关安全问题,要用AI对抗AI,用魔法打败魔法。
据其介绍,奇安信身兼两种不同的角色,既是一个行业模型的开发者,也是一些通用模型的使用者。
“奇安信作为国内最大的一家网络安全公司,我们有自己的安全大模型,也有安全大模型的机器人。”刘前伟表示,行业大模型对于数据集的质量要求非常高,数据本身的安全值得关注。
他还提到,标注的数据也不能出错,这是确保行业大模型质量最重要的一个保障。
“做行业大模型的厂商都很担心,语料本身会不会被别人窃取?有没有一些漏洞导致这些核心数据资产被泄露出去?”他提到。
此外,刘前伟还考虑到出售给客户的安全大模型会被别人“拿走”,因此,他认为“需要对大模型本身进行加密等处理”。
从通用大模型使用者的角度来看,他认为,“AI是非常重要的生产力,但当我去问AI一些问题的时候,我们会不会把自己商业的机密、个人的信息会泄露出来?这是一个很大的问题”。
在他看来,用过去传统的流量过滤方式是无法解决这种内容安全的问题,只能通过AI对抗AI的方式才能解决,“用魔法打败魔法,可能是解决安全上的一个很大的出路”。
0人
- 每日推荐
- 股票频道
- 要闻频道
- 港股频道
- 杭州西安全面取消“限购”政策优化
- 重磅之夜!沪深交易所5月16日恢复审议发行申请
- 实探跑路私募瑞丰达:经侦支队现场办案,关联港股公司亦被调查
- 上海国有控股上市公司举行2023年度集体业绩说明会
- 揭秘A股“躁动”!外资整体回流
- 一季报凸显深市数字经济动力澎湃 集体业绩说明会上共筑高质量发展之基
- 七家公司年报难产被立案!东旭系成为焦点,普利制药财务数据多处疑点,威创股份13亿资金离奇失踪,ST华铁高管或难逃惩罚
- 多家上海国企开集体业绩会 市值管理、新国九条等受关注
- A股十大“牛散”,调仓曝光