今年上半年，‘华山医院前院长张明远客死洛杉矶’的消息在网络上广为流传，但经过发酵后被证明是AI生成的假新闻（AI生成内容）。这个消息在微信群中广泛传播，甚至媒体从业者都未质疑其真实性。

抖音生态治理团队发现，这则消息在简中互联网泛滥，某垂直医疗社区也发布了此信息。团队查证时发现，大量自媒体发布的信息相似度太高，疑为AI编造。

随后，抖音生态治理团队进行谣言核查，第一时间到华山医院官网查询，但并未查到张明远的名字，又搜索了海外信息，也未发现相关报道。团队随即联系华山医院核实，并对谣言内容进行了处置（网络谣言治理）。

今年以来，类似事件频繁发生，从‘每20个80后有1人去世’到‘陈奕迅去世’，AI生成内容的高拟真度与欺骗性让网络谣言治理面临更大困境（AI内容治理）。

9月1日，《人工智能生成合成内容标识办法》正式施行，要求AI生成内容提供显式标识，并鼓励添加隐式标识。抖音、快手等平台相继上线内容标识功能，方便用户辨别AI生成内容，并为内容溯源提供技术支撑（AI内容标识）。

这些举措能否解决网络谣言治理的困境？AI制造的假新闻为何频繁搅动舆论场？随着生成式AI的广泛应用，网络谣言呈现出新特点。此前，诸如‘吃黑木耳能清理血管垃圾’等谣言利用老年人对健康科普的关注来误导他们。各个平台都上线了辟谣栏目，定期对流传广泛的网络谣言进行辟谣。今日头条、抖音等平台已上线谣言库，对这类信息进行拦截（谣言治理措施）。

但生成式AI应用后，内容生产门槛降低，新闻事件类谣言增多，且往往能触发读者情绪，传播能力更强。在这些由AI制造的假新闻中，一类由突发热点事件衍生，真假信息混合，公众难以辨别。比如，协和‘4+4’事件中的信息被AI编造，导致大量用户误解。微博确认谣言后，第一时间进行了辟谣（突发热点事件谣言）。

另一类AI制造的假新闻则完全是无中生有，戳中网友情绪点，引爆话题，公共危害更大。据界面新闻统计，今年几乎每个月都出现过几起由AI编造的假新闻。相比于人工制造的谣言，AI生成的假新闻细节更丰富，甚至包含图片、视频等多种形态内容相互印证，欺骗性加深（AI假新闻特点）。

假新闻治理难度大，平台探索新方法

目前，‘华山医院前院长张明远客死洛杉矶’谣言案件已被警方查清。犯罪嫌疑人利用AI工具自动生成并发布不实帖文30余万条。批量炮制假新闻给各平台内容治理带来巨大压力。尽管各媒体和平台对相关谣言进行了辟谣，但大多读者并未看到辟谣内容（批量炮制假新闻）。

在清华大学新闻与传播学院副教授陆洪磊看来，生成式AI正在重塑谣言的传播生态，技术的加持让AI谣言更具‘说服性’、虚假性和强传播性，使得传统辟谣手段难以招架（谣言传播生态）。据界面新闻了解，平台批量处理谣言已不是问题，但捕捉潜在不实信息风险和核实确认信息真实性仍是难点。同时，如何让更多受众看到辟谣信息也是挑战（平台治理难点）。

9月1日，抖音升级AI内容标识功能，将对创作者未进行标识的疑似AI生成内容采取更清晰的标识措施。如果平台识别到内容的元数据中存在隐式标识，将在作品页面添加‘作品含 AI 生成内容’的标识；如果平台利用技术手段检测到疑似的AIGC内容，也会在作品页面添加‘疑似使用了AI生成技术，请谨慎甄别’的标识，提醒用户注意甄别（抖音AI内容标识升级）。

目前，不同平台都在探索假新闻的治理举措。比如，抖音在持续建设发现虚假不实信息信号的能力。而微博在积极探索未标识的AI生成内容的处置规则，针对由AI生成且未主动标识且造成恶劣影响的账号，将进行禁言处理（各平台治理举措）。

虽然各个社交媒体平台正在积极治理生成式AI带来的假新闻，但仍然还有很长的一段路要走。在一位长期关注内容生态的行业人士看来，目前用户避免被假新闻误导的最好方法是先核实内容来源是否权威，如果仅仅是不知名自媒体账号发布，对内容的真实性需保持一些合理怀疑。（文章来源：界面新闻）