AI生成合成内容日益逼真，带来了谣言造假、身份冒充、不良内容传播等多重风险。3月14日，国家网信办等四部门联合发布《人工智能生成合成内容标识办法》（简称“《办法》”），通过“双重标识＋动态监管”的方式，明确了生成合成服务提供者、内容传播平台、用户的义务，并将于2025年9月1日起施行。

在此背景下，3月24日至28日，南方都市报、南都大数据研究院对国内25个社交、资讯、视频等内容传播平台，以及75个具有AI生成文本、图片、视频等功能的应用，共计100款APP进行了测评，观测其对AI生成合成内容的管理现状。结果显示，近半数应用在AI图片和视频上进行了标识，但在AI生成文本与音频领域的标识实践相对滞后。同时，AI写真、AI陪伴、数字人等虚拟场景应用的标识也存在欠缺。此外，部分应用下载的AI合成图片后标识消失，对用户选择“去标识”的责任界定不明。总体来看，头部AI应用在AI生成合成内容标识方面正逐步走向合规，而不少中小型AI应用还需解决标识“有无”的问题。

本次测评重点针对75款提供生成式AI服务的App，发现48%的应用尚未对AI生成合成内容进行标识，而24%的应用已开始进行标识工作。其中，腾讯元宝、讯飞星火、可灵AI、海螺AI等App的标识情况已接近《办法》要求，但仍需在部分地方加以改进，如AI生成文本和音频内容无标识、用户协议中标识方法、样式说明不规范等。

在文本与音频领域，标识实践相对滞后。具有文本生成功能的39个样本应用中，仅有不到三成的应用在交互界面添加了“AI生成”相关标识。同时，部分应用存在标识不规范的情况，如天工AI的标识提示不明显，Deepseek的标识则时有时无，这种不稳定性可能影响用户认知。

在音频生成功能方面，讯飞星火、音鹿、音控、唱醒等13款具有音频生成功能的应用均未在交互界面或生成的音频中添加显式标识。但也有部分软件已做出了一些标识尝试，如豆包、唱醒等应用，如果将AI音乐以视频形式下载，会在视频画面中显示“AI生成”的标识。

此外，部分应用存在下载AI图片后标识消失的情况，以及会员“去水印”责任模糊的问题。同时，AI写真、数字人等功能涉及虚拟场景的应用中，不到半数添加了显式标识。这些问题均与《办法》的相关规定存在一定距离。

参与此次“人工智能生成合成内容标识标准”编制的专家指出，AI陪伴、换装、虚拟人、写真等具备虚拟场景元素的应用，需要添加显式标识。但本次测评发现，目前相关应用的标识情况并不理想。

对于标识的方法和样式等规范性内容，《办法》规定应在用户服务协议中明确说明。但实测发现，75款应用中大部分未作任何相关说明。此外，部分应用将“打标”义务转移至用户，也存在一定问题。

标识的缺失易混淆用户认知，助长谣言传播、诈骗等危害。当前AI已能生成逼真的图像和文字，若没有显著标识，用户可能会对AI生成内容盲目信任，不去加以思考和辨别。因此，加强AI生成合成内容的标识管理显得尤为重要。

整体而言，部分头部企业在AI生成合成内容标识方面正在逐步走向合规，但中小型提供生成式AI服务的应用还需加强标识管理。专家建议，需拉齐参与方的认识，将合规一层层传导下去，以推动整个行业的健康发展。

（文章来源：南方都市报）