AI导读:

探讨AI智能体在数字化转型中的作用与挑战,以及数据安全与治理框架的重要性。

上能帮企业自动化处理流程、解锁数据价值,下能适配多元场景降低数字化门槛,如今的AI智能体堪称数字时代的“全能选手”。但超能力也需配上“安全铠甲”,智能体在跨域调用数据、联动各类系统的同时,也让数据泄露、模型攻击等风险暗藏其中。74%的受访企业对AI应用满心期待,却仍被合规风险揪着心。

一边是“万物皆可智能体”的效率狂欢,一边是数据“不愿共享、不敢共享、不能共享”的现实困境,这要如何破局?在2025全球数商大会普陀分会场上,与会嘉宾提出了构建“智能体赋能+全链路防护”的治理框架。

从积极的角度来看,安全防护体系的升级与AI智能体的发展正呈现双向赋能态势。这种顾虑催生了“AI For Security”与“Security For AI”的双向奔赴模式:一方面,AI技术赋能安全防护,通过威胁预测、智能合规、自动化响应等功能提升风险管控效率;另一方面,针对AI特有风险建立防护体系,包括提示词攻击防御、模型投毒检测、智能体行为监控等。

在实际业务中,AI Agent能够深度理解用户意图,并据此生成高度个性化的沟通策略与创意内容,实现与用户的精准互动和高效转化。在客户服务领域,具备强大语义理解能力的服务Agent可以自主处理复杂的咨询,提供体贴入微的产品建议与解决方案。在企业经营层面,数据分析Agent则能深度融合业务知识,为管理者提供实时、前瞻的决策支持。

但是“卖家秀”不等于“买家秀”,企业需要在技术上大量投入,比如编排算法,构建知识库,实现不同的模型调用。除了活跃度、消耗量等企业的关注重点,还要确保数据安全不被非法使用。

企业级应用不光要完成Agent开发,还要加上企业级应用能力,包括企业级安全、权限、运维、版本等多个维度。目前,企业仍需遵循原有的管理流程,智能体可以帮助完成部分节点,自动识别和录入信息,优化流程。

AI智能体通过与现有SaaS产品的结合,提供更多的功能并以更低的成本帮助企业适应时代浪潮。对于大部分企业来说,目前可能还未完全准备好完全使用,但智能体中台的出现降低了门槛。

这意味着对数据安全的更高要求,以及还需破解实践中的多重困境。网络安全公司也在提出以AI智能体为核心的解决方案。

政府层面的制度设计正在为行业发展提供了底层支撑。上海市数据局总工程师刘迎风表示,上海正构建“发展与安全并重”的治理体系。

从企业级实践的落地到制度环境的完善,一条“技术创新+实践验证+制度保障”的发展路径已然清晰。