360发布《大模型安全白皮书》,构建AI安全双轨体系
AI导读:
11月8日世界互联网大会前沿人工智能模型论坛上,360集团副总裁胡振泉分享AI安全治理创新方案,发布《大模型安全白皮书》,指出AI安全风险源于内外双重压力,360已形成可落地安全解决方案,提出双轨安全体系。
红星资本局11月8日消息,在今日举办的世界互联网大会前沿人工智能模型论坛上,360集团副总裁、360数字安全集团总裁胡振泉分享了AI安全治理的创新方案,并正式发布《大模型安全白皮书》,这一举措为AI安全治理领域带来了新的思路和方向,引发广泛关注。
胡振泉指出,当前AI安全风险源于内、外双重压力。内部层面,AI存在与生俱来的“基因缺陷”,如一切皆可编程、一切皆可模仿等特性,这些特性带来的安全问题无法回避。外部层面,网络空间已成为国家博弈关键战场,网络战队与黑灰产组织利用AI批量生产攻击武器,黑客攻击智能体配合APT攻击技术,让现有防御体系难以应对,AI安全治理迫在眉睫。
“想要真正做好AI安全需要兼具对AI的深刻理解、丰富的AI产品技术实践,以及安全行业的实战积淀和AI安全语料的长期积累。”胡振泉表示,360AI安全治理的核心在于形成全链路防护网,既要做好模型外部防护,又要聚焦平台原生安全,为AI安全提供全面保障。
胡振泉介绍,360已形成一整套可落地的安全解决方案,包含侧重模型外部防护的“外挂式”安全能力,依托大模型卫士构建动态防御;还有为大模型应用注入“安全基因”的平台原生安全能力,嵌入企业级知识库等核心组件。论坛现场,360同步发布《大模型安全白皮书》,阐释大模型运行时存在的基础设施、内容等五大安全风险,提出“外挂式安全+平台原生安全”双轨安全体系。
(文章来源:红星资本局)
郑重声明:以上内容与本站立场无关。本站发布此内容的目的在于传播更多信息,本站对其观点、判断保持中立,不保证该内容(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关内容不对各位读者构成任何投资建议,据此操作,风险自担。股市有风险,投资需谨慎。如对该内容存在异议,或发现违法及不良信息,请发送邮件至yxiu_cn@foxmail.com,我们将安排核实处理。

