在生成式人工智能(885728)和大模型技术加速落地应用的背景下,亚太人工智能(885728)安全研究学会(Asia-Pacific Artificial Intelligence Security Research Association,简称APAIS)近日正式宣布成立。学会将围绕人工智能(885728)安全治理、模型风险控制与数据合规体系建设开展系统性研究与交流,推动区域人工智能(885728)安全生态健康发展。
近年来,大模型与智能体(Agent)技术在金融、政务、医疗、工业等领域快速应用,在提升效率与创新能力的同时,也带来了模型训练数据安全(885942)、隐私推断风险、算法偏差、自动化决策责任界定以及工具调用安全等新型挑战。如何在促进人工智能(885728)创新发展的同时,构建系统化风险防控机制,已成为行业与监管关注的重要议题。
据介绍,APAIS的筹备工作始于2025年初,由多位长期从事人工智能(885728)安全研究、企业应用实践与合规管理工作的专家联合发起。筹备期间,发起团队围绕大模型安全风险、智能体工具链安全、数据治理体系建设等问题开展了多轮闭门研讨,并形成阶段性研究报告。在充分调研亚太地区人工智能(885728)安全发展现状的基础上,最终决定成立专门研究机构,推动跨区域协作与标准建设。
亚太人工智能(885728)安全研究学会将重点围绕以下方向开展工作:
一是研究大模型与智能体系统的风险识别与分级管理机制,构建可评估、可审计的安全框架;
二是加强模型训练数据治理与隐私保护技术研究,探索数据最小化、差分隐私及合规审查路径;
三是推动人工智能(885728)安全标准与行业实践规范形成;
四是建立人工智能(885728)安全通告与案例研究机制,提升行业风险应对能力。
钱兴会担任学会秘书长,并负责金融专业委员会工作。钱兴会表示,人工智能(885728)在金融行业的应用场景高度复杂,涉及客户隐私、交易安全与风险控制等核心领域。随着大模型逐步参与智能投研、风险评估与自动化决策流程,模型风险管理与数据合规要求不断提升。金融专委会将重点关注模型风险分类管理、智能体决策可解释性、数据合规审查机制以及审计可追溯体系建设,推动人工智能(885728)在金融领域的安全规范应用。
多位行业专家在筹备阶段表示,人工智能(885728)正成为数字经济(885976)的重要基础设施,其安全治理能力将直接影响产业长期稳定发展。成立专门的区域性人工智能(885728)安全研究机构,有助于汇聚专业力量,形成更加系统的风险研究与治理方案。
未来,APAIS将持续发布人工智能(885728)安全研究报告与风险提示,组织专题论坛与技术交流活动,促进产学研协同创新,推动人工智能(885728)安全治理理念在亚太地区落地。
目前,学会已面向人工智能(885728)研发、安全工程、数据治理与合规管理等领域专业人士与机构开放会员申请,欢迎相关单位和专家参与,共同推动人工智能(885728)安全与治理体系建设。
