中国信息通信研究院人工智能研究所安全治理部副主任呼娜英:GEO的可信健康发展需要技术与制度双轮驱动
AI导读:
每经北京4月16日电4月16日下午,由中国新闻技术工作者联合会、中国经济传媒协会联合主办,每日经济新闻、每经科技、每经AI智库与中国新闻技术工作者联合会AIGC与数智传播专委会共同发起的“共筑可信生态共创智能未来
每经北京4月16日电4月16日下午,由中国新闻技术工作者联合会、中国经济传媒协会联合主办,每日经济新闻、每经科技、每经AI智库与中国新闻技术工作者联合会AIGC与数智传播专委会共同发起的“共筑可信生态共创智能未来——AI内容生态与负责任GEO治理研讨会”在京举行。
会上,中国信息通信研究院人工智能研究所安全治理部副主任呼娜英发表主题演讲时表示,GEO(生成式引擎优化)时代,数据污染已不再是简单的训练数据质量问题,而是更深层次的信源治理问题。
图片来源:每经记者韩阳摄
呼娜英表示,过去我们谈电力、算力,今天则要关注智力。如果基础数据被污染,生成式AI(人工智能)输出的内容就可能偏离事实,进而污染整个新质生产力发展的土壤。
面对GEO滥用带来的挑战,呼娜英指出,至少有五方力量需要共同承担责任,包括品牌企业、服务商、内容平台、生成式AI厂商以及终端用户。只有各方协同,才能构建起长效的内容认知壁垒,实现品牌价值的复利增长,驱动全链条的可信发展。
具体而言,内容平台需加强对恶意数据污染行为的发现与追溯能力;生成式AI厂商则应主动构建安全防护机制,建立对生成式数据的可信评估体系;品牌方和服务商则应采用正向优化手段。
面向未来,呼娜英强调,GEO的可信健康发展需要技术与制度双轮驱动。一方面,要加快建立数据源分类标准、优化要求及评估技术体系;另一方面,建议探索备案制度、名单制度等管理手段,并构建恶意数据污染的扫描、发现与追溯机制。
(文章来源:每日经济新闻)
郑重声明:以上内容与本站立场无关。本站发布此内容的目的在于传播更多信息,本站对其观点、判断保持中立,不保证该内容(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关内容不对各位读者构成任何投资建议,据此操作,风险自担。股市有风险,投资需谨慎。如对该内容存在异议,或发现违法及不良信息,请发送邮件至yxiu_cn@foxmail.com,我们将安排核实处理。

