AI导读:

在实体经济与数字经济融合背景下,金融行业正通过‘大模型+企业知识库’模式破解知识管理困境。腾讯云副总裁答治茜指出,金融机构面临知识孤岛化、非结构化数据海量等挑战,需构建专属金融知识库。该模式通过RAG技术实现实时更新,结合多级权限管理和内容风控体系,确保数据安全与问答准确性,目前问答准确率已超92%。

在实体经济和数字经济深度融合的背景下,金融科技企业正积极拥抱大模型技术。不过,对于安全性、准确性要求极高的金融行业来说,通用大模型往往无法满足其需求,专属金融知识库建设成为关键突破口。

“在实际落地过程中,‘大模型+企业知识库’成为AI落地的最佳路径。”腾讯云副总裁答治茜接受《每日经济新闻》专访时指出,金融机构普遍面临知识孤岛化、非结构化数据海量、合规成本高企等知识管理困境,而传统方案难以兼顾效率与安全。

如何破解金融行业知识管理困境?金融科技对“大模型+知识库”的关注点呈现怎样的特点?围绕这一系列话题,答治茜进行了详细解答。她强调,AI知识库作为连接数据、算法与场景的核心枢纽,是金融机构实现“从技术到价值”转化的关键抓手。

大模型是“大脑”,知识库是“课本”

当前,大模型技术正惠及千行百业,金融行业也在探索符合金融规律的AI知识库建设路径。NBD提问:大模型时代,企业的“知识库”扮演了什么角色?金融领域专属模型和通用大模型有什么差别?

答治茜认为,知识库是企业的一种基础设施。大模型是“大脑”,知识库是“课本”,大脑智力再高,如果没有学习过相关的知识,也无法很好地解决问题。“通用大模型+专业领域知识库”的研发类似“大脑+课本”模式,需投入巨大资源训练基座模型,并通过RAG技术配备实时更新的金融知识库。而“金融领域专属模型”则从训练第一天起就使用海量金融私有数据,让模型深刻理解金融术语和市场逻辑。

允许员工个人创建知识库空间

银行、证券、保险等企业而言,企业知识库承载着风险管控、合规审查、客户服务等核心职能。答治茜指出,金融行业对知识库安全与合规的要求更高,数据安全、监管要求、信创适配等成为数字化建设底线。为此,AI知识库建设需具备精细化的多级权限管理体系、防泄露的页面水印、严谨的审计能力和内容风控体系等。

同时,金融行业对知识问答准确性和严谨性的要求极高。员工每天都在跟数字和知识打交道,知识内容丰富且复杂,大家对于知识库的期待很高,如希望多表格数据的计算、财报里多模态数据的解读、银行理财产品推荐等。为此,腾讯在AI出图、表格计算、知识溯源等方面下了很多功夫,并取得了阶段性突破。此外,金融企业更关注员工个人知识的沉淀,腾讯在知识库中设计了允许员工个人创建知识库空间的功能,同时打通微信、腾讯文档、企业微信等。

如何避免幻觉:不乱说、能溯源、有效管理知识

在使用AI助手咨询问题时,经常得到错误的回复,这种现象被称为“幻觉”。答治茜认为,破解“杜撰”问题的关键在于三方面:答案模糊时拒答不乱说、输出能有效溯源、企业内部知识实现有效治理。为此,腾讯自研OCR大模型,对复杂的图文混排文档解析准确率提升30%以上;自研业界首个基于语义切分的模型,保障切分片段语义的完整性;当用户通过AI助手问答时,结合上下文理解问题并改写,提升检索精度;使用向量检索和关键词检索的混合检索模式,找到最相关的内容;对检索内容进行重新排序与过滤;基于重排后的内容调用大模型生成最终答案。经过以上程序,目前准确率超过92%,并将持续投入精力提升准确率。

(文章来源:每日经济新闻)