AI导读：

随着AIGC创作的快速发展，AI生成的低质内容泛滥，给用户造成信息干扰。部分生成式AI重塑谣言传播生态，严重扰乱网络环境。全链条有效治理迫在眉睫，需从多方面发力，平台方治理效能尤为重要。今日头条等已采取行动，期待多方协同形成合力。

　　随着AIGC（利用人工智能技术来生成各种类型的内容）创作的快速发展与迭代，网络空间变得更加丰富多元。比如，用各种模版一键上传照片，就可以生成各种有趣的小视频；看AI小猫小狗做饭，也成了近段时间的热议话题。但与此同时，AI生成的低质内容泛滥，给用户造成信息干扰。

　　生成式AI降低了标题党、“擦边”内容的制作门槛，技术的加持让AI谣言更具“说服力”、伪装性和强传播性，传统辟谣手段难以招架。可以说，部分生成式AI正在重塑谣言的传播生态，严重扰乱网络环境。

　　去年4月，公安部公布的10起打击整治网络谣言违法犯罪典型案例中，就有4起涉及使用AI造谣。据不完全统计，2024年搜索热度较高的50个国内AI风险相关舆情案例中，超1/5与AI造谣有关。

　　面对AI谣言，全链条的有效治理迫在眉睫，需从企业平台、监管部门、技术提供者、用户等多方面发力，最大程度挤压AI谣言的生存空间。平台方的治理效能尤为重要，专家建议源头治理，利用AI在谣言内容识别、路径追踪和自动化辟谣等方面“用魔法打败魔法”。

　　例如，今日头条在鼓励用户使用AI提效的基础上，迅速升级AI模型的识别能力，加强AI内容审核。识别到创作者使用AI辅助创作时，平台会打上标签，提醒用户甄别。平台还增加了后台AI治理，持续迭代低质内容AI模型，命中模型的内容会被自动处置，减少或禁止传播。今日头条已构建起涵盖内容治理制度、内容审核、辟谣教育、内外联动的四位一体“防御工事”，2024年拦截不实信息超500万条，处置低质AI内容93万条。

　　让“AI治理”跑赢“AI谣言”，期待各平台积极践行社会责任，不断升级技术。政府机构、媒体、公众需多方协同，网络谣言治理需形成合力。

（文章来源：科技日报）