2025全球数字经济大会聚焦人工智能安全
AI导读:
2025全球数字经济大会数字安全主论坛在北京召开,聚焦人工智能安全。会上发布研究数据显示,我国人工智能大模型安全性处中游水平,需提升。专家们强调网络安全体系建设的重要性,提出联合防御体系等建议。
6月5日,2025全球数字经济大会数字安全主论坛暨2025北京网络安全大会在北京召开。会上,北京前瞻人工智能安全与治理研究院院长曾毅发布研究数据,指出我国人工智能大模型的安全性在国际上处于中游水平,攻击成功率约为5%-6%,仍有较大提升空间。

大会现场
中国互联网协会专家咨询委员会常务副主任赵志国表示,智能化安全威胁不断涌现,攻击者利用人工智能放大攻击效果,使网络威胁更具规模性、针对性、杀伤性。他强调,我国在人工智能安全算法的原创性、模型的开放性等方面与国际先进水平存在差距。
曾毅现场介绍的新研发的灵御大模型安全攻防评估平台可对越狱攻击进行系统性评估,进一步印证了大模型安全性提升的必要性。该平台对49款不同类型大模型进行安全测试后得出结论,无论是国内还是国际大模型,人工智能能力的提升并未带动其安全风险防范水平提高。
专家们普遍认为,人工智能为网络安全产业发展带来机遇的同时,也带来了巨大挑战。多位专家在给出应对建议时都提到“体系”一词,即重视网络安全体系建设。
中国国家互联网信息办公室总工程师孙蔚敏以2022年冬奥会网络防护“零事故”的成功经历为例,强调了建立联合防御体系的重要性。她指出,要坚持系统思维、体系作战的思维方式,共同打造国家网络安全的联合防御体系。
全国工商联副主席安立佳也强调了体系建设的重要性,建议广大企业推动产业链、创新链、价值链深度融合,积极参与全球网络安全治理与规则制定。
奇安信集团董事长齐向东表示,网络安全突围的动力来自生成式人工智能,但安全建设常陷入“缺啥补啥”的拼盘惯性。他提出重塑数据聚合模式、安全运营模式和生态合作模式三大路径,强调运营是内生安全体系起效的关键。
(文章来源:南方都市报)
郑重声明:以上内容与本站立场无关。本站发布此内容的目的在于传播更多信息,本站对其观点、判断保持中立,不保证该内容(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关内容不对各位读者构成任何投资建议,据此操作,风险自担。股市有风险,投资需谨慎。如对该内容存在异议,或发现违法及不良信息,请发送邮件至yxiu_cn@foxmail.com,我们将安排核实处理。

