AI导读:

11月8日世界互联网大会前沿人工智能模型论坛上,360集团副总裁胡振泉分享AI安全治理创新方案,发布《大模型安全白皮书》,指出AI安全风险源于内外双重压力,360已形成可落地安全解决方案,提出双轨安全体系。

  红星资本局11月8日消息,在今日举办的世界互联网大会前沿人工智能模型论坛上,360集团副总裁、360数字安全集团总裁胡振泉分享了AI安全治理的创新方案,并正式发布《大模型安全白皮书》,这一举措为AI安全治理领域带来了新的思路和方向,引发广泛关注。

  胡振泉指出,当前AI安全风险源于内、外双重压力。内部层面,AI存在与生俱来的“基因缺陷”,如一切皆可编程、一切皆可模仿等特性,这些特性带来的安全问题无法回避。外部层面,网络空间已成为国家博弈关键战场,网络战队与黑灰产组织利用AI批量生产攻击武器,黑客攻击智能体配合APT攻击技术,让现有防御体系难以应对,AI安全治理迫在眉睫。

  “想要真正做好AI安全需要兼具对AI的深刻理解、丰富的AI产品技术实践,以及安全行业的实战积淀和AI安全语料的长期积累。”胡振泉表示,360AI安全治理的核心在于形成全链路防护网,既要做好模型外部防护,又要聚焦平台原生安全,为AI安全提供全面保障。

  胡振泉介绍,360已形成一整套可落地的安全解决方案,包含侧重模型外部防护的“外挂式”安全能力,依托大模型卫士构建动态防御;还有为大模型应用注入“安全基因”的平台原生安全能力,嵌入企业级知识库等核心组件。论坛现场,360同步发布《大模型安全白皮书》,阐释大模型运行时存在的基础设施、内容等五大安全风险,提出“外挂式安全+平台原生安全”双轨安全体系。

(文章来源:红星资本局)