9月7日下午，在2023inclusion·外滩大会举行的《探索下一代安全智能》论坛上，世界权威国际产业组织“云安全联盟”（CSA）大中华区宣布成立“AI安全工作组”，中国电信、蚂蚁集团、华为、百度、字节跳动、西安电子科技大学、国家金融测评中心等30余家机构成为首批发起单位。该组织致力于共同解决AI技术快速发展所带来的安全难题。

据悉，云安全联盟大中华区AI安全工作组将由中国电信上海研究院、蚂蚁集团担任联席组长单位，召集联盟内人工智能相关的产线上下游企业、学校、研究机构、用户单位等共同研究人工智能安全前沿技术。

【资料图】

记者从现场获悉，AI安全工作组将聚焦人工智能突出的安全风险问题，输出人工智能内生安全、衍生安全、助力安全等领域的白皮书、产业知识图谱、团体标准、系统框架、解决方案等，为整个行业提供一个清晰、系统的AI安全研究框架。根据计划，工作组先期将输出《AI安全白皮书》《大模型安全研究报告》《AI数据安全评估规范》等研究成果。

从安全角度看，AI技术是把“双刃剑”。它既会对数据、业务和系统等层面构成威胁，也能为安全科技发展赋能。论坛与会嘉宾表达了一致的观点，并提出了建设性意见。

中国网络空间安全协会副秘书长徐倩华表示，“发展的前提是安全。这需要各行各业形成筑牢安全防护屏障的共识，注重培养顶尖安全技术人才，贯彻落实相关法律法规，共同提升数字安全防护能力，确保数字经济健康可持续发展。”

中国电信研究院副院长、云网基础设施安全国家工程研究中心常务副主任李安民表示，面对日益复杂的云网安全威胁，积极探索AI安全、Web3框架下的安全技术及其创新应用，才能帮助数据交易可信和网络稳定。

另外，金融是现代经济的核心，金融领域的科技创新与安全愈发重要。

国家金融与发展实验室副主任杨涛表示，“让金融更安全地拥抱科技，一方面要解决科技企业与金融机构建立‘各司其职、风险自担’的合作边界问题；另一方面要完善金融科技生态，夯实基础要素。”

中国民生银行首席信息官张斌认为，“当前开放银行、智慧银行、场景金融等数字金融服务迅猛发展，金融机构应尽快建立与之配套的数字安全防御体系，驱动金融业务更好、更快、更稳健的发展。”

作为互联网科技企业，蚂蚁集团机器智能部总经理、蚂蚁安全实验室首席科学家王维强介绍，针对生成式大模型的安全问题，蚂蚁集团基于近十年可信AI的研究沉淀，逐步构建了“大模型安全检测与防御”一体化解决方案，以保障大模型在生产和使用过程中更加安全、可控、可靠。目前已发布“蚁鉴”AI安全检测平台。同时，蚂蚁集团基于安全基座模型能力，持续升级全方位全链路的智能风控防御体系，与生态伙伴们一起解决新AI时代的安全科技难题。

（文章来源：证券日报）