AI导读:

随着技术的快速发展,AI驱动的攻击日益严重。面对这种挑战,传统的被动防御体系已无法应对。本文探讨了AI驱动下的网络安全挑战以及如何通过AI重构防御体系。

  一台从未接入互联网的机器人,仅凭一句语音指令,就能被远程控制,并转而攻击其他同类设备,这是2025年GEEKCON安全极客大赛上的真实一幕。

  而在真实的物理攻击中,派拓网络大中华区总裁陈文俊说,“我们注意到2021年一次成功攻击平均需9天,2023年缩短至2天,今年最快只要25分钟。”一句话道出了防御体系的全面失速。面对AI驱动的主动式攻击,被动、碎片化的传统架构已无力招架。

  技术狂奔,安全掉队,风险正在物理世界真实发生。在年底多个科技行业会议上,数据安全、网络安全都是重要的议题。对于安全厂商而言,留给他们教育用户“安全不只是合规”的时间不多了。

  安全机制亟需前置

  “我们发现了机器人内置的大模型Agent中的一个逻辑缺陷,这个漏洞可以让攻击者构造特定的语音输入来获取目标机器人上的任意代码执行权限。”2025年GEEKCON(新极棒)安全极客大赛上,有参赛选手针对某款人形机器人进行了深度突破,挑战仅凭一句自然语言对话,触发未知漏洞执行,远程攻破目标机器人并取得了控制权。

  被控制的接入无线网络的机器人,再将攻击指令以近场通讯的形式传递给其他同型号未接入网络的机器人,并通过操纵未联网机器人完成攻击者的指令,实现了“隔山打牛”。这揭示了未来机器人集群可能面临的系统性风险。

  现场评委、GEEKCON组委谭晓生在点评时表示,“安全的具身智能是具身智能在生产、生活中普及的先决条件,这是具身智能产业所面临的挑战。”

  他告诉第一财经记者,攻防的对抗是永无止境的,最重要的是新技术创业公司需要有安全意识,要从软硬件设计就开始考虑安全机制。以具身智能为例,传感器、通信协议、大模型提示词防止恶意注入都需要特别关注。

  尽管人们认同安全必须内生于设计,而非事后补丁,然而现实令人忧心。浙江大学求是特聘教授杜跃进看到的现状是:企业在向别人论证自己的公司“数据安全够好”时,多数在进行概念堆砌,少数会提到标准或法律,极个别会提到认证。“我们需要一个很好的合作心态,定制相应的演练。在网络安全行业,经验非常重要。”

  显然,当技术已能操控未联网的物理实体,安全若还停留在“交材料、过检查”的层面,无异于在数字战场上“裸奔”。

  工具越多,防线越弱?

  过去,企业安全建设一度走了一条“头痛医头”的路:发现漏洞就买一个工具,遇到新威胁再加一个平台,形成了碎片化防御。在如今AI驱动的攻击面前,这一套形同虚设。黑客不再需要暴力破解,而是用生成式AI模拟合法行为,精准绕过规则引擎,甚至能自动学习防御策略,动态生成变种请求持续渗透。

  “很多安全订单是为了合规。”一位第三方测评安全机构人士提到,国内安全行业的现状是企业愿意为防火墙、服务器等硬件付费,却不愿为持续运营、应急响应买单。结果是,安全建设“重采购、轻运维”,一旦出事,损失远超投入。

  更讽刺的是,防御体系越复杂,管理盲区反而越多。安全团队疲于应付告警洪流,真正的高危事件反而被淹没。

  破局的关键,是用AI重构防御。

  深信服上海区数据安全产品总监王喆提供了一组对比:人工打标每天仅能处理500个数据字段;而基于大模型的系统,仅用两张4090D显卡,日处理量跃升至2万。在风险监测中,AI将原始4000条告警降噪90%,压缩至400条可行动的高价值事件。对运维团队而言,这是从“不可能”到“真正可控”的本质跨越。

  这一转变也催生了新一代安全架构。派拓网络的Cortex AgentiX...