AI导读:

  上证报中国证券网讯(记者宋薇萍)随着生成式AI与大模型技术快速普及,AI正从概念走向产业落地,但企业在治理体系、合规监管、实际应用等方面仍面临诸多挑战。对此,毕马威中国华东及华西区工业制造及汽车行业主管合伙人、

  上证报中国证券网讯(记者宋薇萍)随着生成式AI与大模型技术快速普及,AI正从概念走向产业落地,但企业在治理体系、合规监管、实际应用等方面仍面临诸多挑战。对此,毕马威中国华东及华西区工业制造及汽车行业主管合伙人、模速空间主管合伙人苗桢近日接受上海证券报记者独家采访,围绕中国企业AI治理、创新与监管平衡、出海合规、生成式AI落地、未来技术趋势以及AGI布局等关键议题进行了系统解读。

  苗桢表示,AI要真正实现规模化商业落地,核心在于建立可信、可控、可持续的治理体系,而企业当前最紧迫的任务,是补齐AI治理的关键短板。从毕马威相关AI报告来看,中国企业在AI治理体系建设中普遍存在责任模糊、合规滞后、数据安全薄弱、系统不透明等问题,这些短板直接制约AI应用的稳健推进。对此,他建议企业优先明确数据管理、模型开发、风险控制等全流程的责任分工,让每个环节都有清晰主体负责;加强对最新法规的理解和遵守,确保其AI应用符合国家和地方的相关规定,避免法律风险。此外,他还建议企业筑牢数据安全与隐私保护防线,建立健全的数据安全管理体系,确保数据的合法合规使用,并采取有效措施保护用户隐私,着力提升AI系统的透明度与可解释性,建立监管与市场的双重信任。

  在AI创新与合规监管的平衡上,苗桢认为,“AI信任”是商业落地的关键,二者并非对立关系,而是协同共生的关系。企业无需在创新与监管之间做取舍,可通过一套完整体系平衡张力。他建议,首先,企业需要搭建覆盖数据、模型、风险、伦理的全维度AI治理框架,明确各环节合规底线;其次,企业应主动与监管机构沟通对接,及时掌握政策走向,甚至参与行业标准制定。通过常态化伦理与合规培训,让合规意识渗透全员与全业务。内部强化数据全生命周期治理,用加密、权限管控等技术保障安全。再次,企业需建立长效监测与优化机制,根据监管与实践动态调整治理体系,在守住合规底线的前提下,最大化释放AI创新价值。

  对于布局海外市场的中国企业,苗桢提醒,全球AI监管正进入分区细化、严格执法的新阶段,企业出海面临全新合规挑战。他说,不同国家与地区在数据保护、透明度要求、伦理标准上差异显著,企业不仅要适配多国规则,还要满足AI决策可解释、来源可追溯的高要求,一旦违规将面临高额罚款与诉讼风险。企业应对这一挑战,最有效的方式是组建具备国际视野的专业合规团队,持续跟踪全球AI法规变化,定期更新知识与操作规范,保障全球业务合规运营。

  苗桢坦言,AI热潮让企业落地预期与实际效果存在明显落差。当前多数企业面临技术成熟度不足以支撑复杂高精度场景、高质量训练数据短缺且标注成本高、AI与现有业务系统集成难度大、输出不稳定导致用户体验不佳等问题。其中,“幻觉”问题仍是最大阻碍,模型生成与事实不符以及逻辑错误的内容,不仅会误导用户、损害企业声誉,在金融、医疗等敏感领域还可能引发严重合规与安全风险,持续侵蚀用户信任。针对这些痛点,企业可通过高质量数据训练提升模型鲁棒性、建立内容审核与纠错机制、依据用户反馈迭代优化、加强用户使用引导等方式,逐步降低落地风险,让生成式AI真正创造业务价值。

  展望未来,苗桢判断,未来2年至3年,AI产业将进入场景爆发期,生成式AI、多模态大模型、自然语言处理、计算机视觉、强化学习五大方向会快速普及,覆盖内容创作、智能客服、医疗影像、自动驾驶、自动化决策等多元场景。其中多模态大模型的影响最为深远,将深度重构媒体娱乐、医疗健康、金融服务、零售电商、教育等行业格局。推动内容生产自动化个性化、助力医疗精准诊断与远程服务、优化金融风险评估与智能投顾、实现零售电商体验升级、打造个性化互动教育模式,成为产业数字化转型的核心引擎。

  针对当下热议的AGI通用人工智能,苗桢建议,目前AGI仍处于理论探索阶段,尚未进入实用落地期,但企业应未雨绸缪,提前布局。这不仅能帮助企业在未来技术变革中保持竞争优势,也能推动AI技术健康有序发展。企业可通过与高校、科研机构、初创公司合作,开展小规模试点项目验证技术可行性,在实践中积累经验,逐步扩大探索范围,为迎接AGI时代做好技术、组织与业务层面的准备。

(文章来源:上海证券报·中国证券网)