AI导读:

  近日,一起由AI(人工智能)大模型引发的“乌龙付款”事件在网络引起热议。有网友发帖称,自己的收款二维码被某AI大模型拿去,成了一位用户购买保险的付款二维码。
  根据央广网报道,付款方为一家工程公司的负责人,他在用A

  近日,一起由AI(人工智能)大模型引发的“乌龙付款”事件在网络引起热议。有网友发帖称,自己的收款二维码被某AI大模型拿去,成了一位用户购买保险的付款二维码。

  根据央广网报道,付款方为一家工程公司的负责人,他在用AI大模型为员工挑选团体人身意外伤害保险时,轻信了AI大模型给出的所谓“保单付款二维码”,扫码支付了1618元。而这个二维码正是发帖网友的个人二维码。得知情况后,该网友将钱款退还。

  如今,随手点开一款AI应用,解答疑惑、咨询问题已成为我们生活中的常态。当金融支付这类敏感信息竟被AI“顺手解决”,我们不禁要重新思考,在严肃金融领域,我们能否继续依赖通用大模型给出的答案。

  为此,《每日经济新闻》记者(以下简称每经记者)近日实测用四款AI工具购买保险,包括豆包、千问两款通用大模型和蚁小保、智能小马两款保险平台大模型,探究两类大模型的差异。

  实测:通用大模型PK保险垂直大模型

  用AI购买保险,两类大模型有何不同?

  每经记者首先输入实际的购买需求,豆包、通义千问两款通用大模型对此进行了较为详细的科普,在初步了解产品环节提供了必要的信息支持,在回答内容中包含了多款具体保险产品的推荐信息,回应了该问题背后的需求点。

  具体而言,对于“我想买意外险”的问题,豆包给出的答案包括怎么选、避坑指南、热门产品参考、理赔小贴士四个方面;通义千问给出的答案包括了解意外险保什么、如何为自己和家人挑选两大部分,其中也针对不同人群给出了对应的推荐产品。

  对于“我想买意外险”这一询问,两款保险平台大模型则多了一个交互的过程:智能小马的回复要点包括意外险的选购要点、不同年龄意外险配置逻辑变化、旅行意外险补充建议,同时继续询问了年龄信息;蚁小保自动梳理了用户的信息,并明确需求,给出“先给自己配”“也看看父母的”“全家一起配”三个选项。在补充了年龄、为谁购买等信息后,两款保险平台大模型分别给出推荐理由和产品链接。

  不过,两类大模型最大区别在于:保险平台大模型推荐的产品仅限为平台旗下保险,用户点击链接可进入正常投保流程;通用大模型则是全网搜索后推荐产品,但投保存在卡点。

  如记者选择豆包推荐的一款产品后,豆包询问:“你现在是要我们发官方投保入口,还是先确认具体工作以确保职业能投保?”记者确认发送投保入口后,豆包提供了产品链接。在第一次链接有误的情况下,豆包重新给出的链接显示为一家第三方中介平台的投保入口。通义千问则给出可能搜索到该产品的几大平台。当记者就保险付款进一步提问,两款通用大模型均强调需到官方/正规平台投保。

  针对投保需求,业内建议选择专业保险平台上的AI智能保险顾问进行咨询,在咨询完成后,也可以进行后续的投保,该类平台比较专业、可信任。

  消费者能否完全依赖AI给出的答案?业内认为,AI可作为有力助手,帮助用户了解保险基础知识(比如重疾险和医疗险有什么区别)、对比不同产品的保障范围(需核实信息是否最新)、熟悉投保流程、明白健康告知的重要性。同时,AI也存在明显局限性:它无法替代保险公司的核保结论,个人健康状况是否符合投保条件最终由核保决定;AI不能承诺理赔,所有理赔均以保险合同条款为准;AI提供的“投保建议”仅为参考,最终决策需由消费者自行负责。

  因此,业内建议消费者将AI视为学习工具和流程助手。在选产品、填写健康告知、申请理赔等关键决策节点,务必咨询保险顾问、经纪人等专业人士,或直接拨打保险公司客服热线确认。毕竟,保险购买的是具有法律效力的合同,而非简单的对话记录。

  业内:AI不碰支付环节,仅提供决策参考

  对于AI大模型引发的“乌龙付款”事件,保险业内人士如何看?

  慧择相关负责人在受访时对每经记者表示,公司在大模型部署初期已专项重点讨论过保险金融支付问题。为了合规和风控,凡是提及支付、下单、付款等敏感词时,AI只做引导,不直接完成交易。具体有两种方式:一是引导用户到对应的产品详情页,按正常流程投保;二是引导用户至顾问预约入口,由顾问完成后续确认和指导。

  据了解,目前保险平台基本都采用此类模式。如蚁小保在为用户推荐保险时,并不会直接给出支付链接,需要用户点击链接跳转到具体保险产品页面,在详细看完产品介绍进行选择后,还要经过健康告知等一系列合法合规的流程,最终才能完成支付和投保。

  对于不让AI直接辅助完成交易,慧择相关负责人进一步解释称,一是考虑到交易安全问题,二是考虑到该步骤的用户需求量问题。“慧择平台多数是长险业务,用户决策周期长,就算自主操作到下单这一步,也通常需要人工顾问二次确认。所以AI从一开始就不碰支付环节,只是完成它作为信息咨询助手的角色,供用户决策参考。”

  星火保产品研发负责人罗方舟认为,金融行业尤其是支付环节,直接涉及资金安全、信息安全和隐私安全,这三个方面的安全合规要求是不可逾越的红线。

  在资金层面,支付链路通常由持牌机构(如银行、第三方支付公司)负责,公司自身不设立资金池。所有扣款指令通过支付网关转发,资金流由持牌机构进行清算,公司仅负责记录订单及状态流转信息。

  在信息安全层面,用户的身份证、银行账户、保单等信息属于高度敏感数据。行业通行的做法包括:对敏感字段进行加密存储(即使数据库被窃取也无法解读);遵循最小权限原则分配访问权限,运营人员无法查看完整的身份证号或银行卡号;对操作日志进行脱敏处理,严禁打印完整敏感信息;数据传输全程采用HTTPS(超文本传输安全协议)以防止中间人攻击。

  在合规层面,保险销售涉及保险中介许可证、双录(录音录像)、KYC(投保人身份核验)等要求,这些要求在系统设计阶段就必须嵌入业务流程。支付环节还需符合反洗钱(AML)和反欺诈的风控规则。

  险企:已有保险垂直大模型落地

  对于普通消费者来说,关于购险的需求,不同类型大模型给出的回答专业度似乎很难区分,那么保险专业大模型到底有何不同?

  业内人士在受访时表示,基于大模型技术的智能保险顾问与业务广泛的通用大模型不同,它只专注服务保险行业。一般而言,智能保险顾问可提供保险产品解读、保险方案配置和陪伴式理赔服务,全流程解决用户在保前、保中和保后的保险疑问和需求。

  罗方舟在受访时提到,通用大模型与保险垂直大模型的本质区别在于知识密度和可控性。通用大模型的优势在于知识覆盖面广、对话流畅,但在保险领域存在明显短板:保险产品条款极其精细,不同险种、条款版本、除外责任、核保规则等信息动态变化,通用模型容易产生“幻觉”,可能输出与事实不符的错误信息。他认为,保险业务涉及合规,错误回复可能导致误导销售,这是监管红线。此外,通用大模型在结构化险种对比、核保结论推理等方面能力不足。

  保险专业大模型的真正价值体现在:基于保险知识库(RAG)进行检索增强,减少“幻觉”;对接核保规则引擎,实现健康告知的初步判断和风险筛查;在合规边界内生成话术,明确区分“产品介绍”与“销售误导”;能够对接保单管理、理赔进度等业务数据。

  罗方舟还表示,“保险大模型”真正的技术壁垒在于拥有足够丰富、及时更新的保险产品数据,以及将技术与业务流程深度融合。

  记者注意到,一些头部险企已布局垂直领域大模型。如中国人保在2025年年报中称,公司通过自研方式打造保险领域垂直大模型“人保宸灵”,场景意图理解准确率超过99%。中国人保党委委员、人保财险党委书记张道明在业绩发布会上介绍,公司在建设一流AI底座方面取得初步成效:建立国产化异构算力平台,上线保险垂直大模型,建立200余项原子化AI能力,持续建设高质量训练数据集超30类。

  众安在线在年报中提及,持续加大AI领域的研发与资源投入,深化大模型与保险垂直场景的融合创新,持续夯实AI技术底座。

(文章来源:每日经济新闻)