AI“盗脸”、AI数据投毒、AI“托管”等乱象将被重点整治。4月30日“网信中国”发布消息称，中央网信办近日印发通知，在全国范围内部署开展为期4个月的“清朗·整治AI应用乱象”专项行动。

　　本次专项行动分两个阶段推进。第一阶段为“清朗·AI应用服务典型违规问题”专项治理行动，第二阶段为“清朗·整治AI信息内容乱象”专项治理行动。

　　中央网信办有关负责人强调，各地网信部门要切实履行属地管理责任，督导网站平台对照整治重点，深入自查自纠，全面排查问题漏洞，完善长效治理机制，有效提升技术防治能力，确保专项行动取得实效。

　　整治AI“换脸换声”“复活逝者”等乱象

　　随着生成式人工智能快速普及，一些围绕“换脸”“换声”等技术的滥用问题逐渐显现，成为多方关注焦点。

　　围绕信息内容乱象，专项行动将利用AI“魔改”经典、生成“数字泔水”纳入重点整治范围。具体包括：歪曲解构优秀传统文化、历史人物或历史典故，滥用AI技术“魔改”古典名著或经典影视作品，植入低俗暴力内容，恶搞古典名著精神内涵、颠覆重要人物人设；批量生成发布逻辑混乱、价值空洞，或带有错误价值观、扭曲文化认知等不良倾向的“数字泔水”类内容。

　　针对“假冒仿冒他人”问题，专项行动明确划清禁止红线：利用AI“换脸”“换声”假冒仿冒公众人物发布不实言论，欺骗网民，甚至营销牟利，或生成合成含有攻击、抹黑、贬损他人的信息；未经授权生成合成与公众人物的合影、亲密照等图片、视频；不当使用AI“复活逝者”，滥用逝者信息。

　　与此同时，利用AI“托管”从事网络水军活动的问题也被重点强调。如部分机构或个人通过AI“托管”技术运营账号，模拟真人批量注册、运营社交账号，批量生成发布低质同质文案。此外，专项行动还将整治非法交易买卖账号、使用AI群控软件和社交机器人刷量控评、生成虚假流量数据、制造虚假舆论热点等行为。

　　剑指AI数据投毒，从源头规范AI应用服务行为

　　针对AI应用服务典型违规问题的专项治理行动，监管重点前移至技术源头，围绕AI模型开发、训练和应用环节的合规性与安全性开展整治。

　　首先是大模型备案登记义务，专项行动将严查未按照《生成式人工智能服务管理暂行办法》规定向网信部门履行备案登记程序等“应备未备”情形。

　　在数据治理方面，专项行动将聚焦AI数据投毒问题，重点整治通过篡改训练语料、伪造权威数据、使用GEO（生成式搜索引擎优化）技术恶意营销等方式实施AI数据投毒的行为。此外，炒作、教授AI数据投毒方法，或在电商平台兜售教程及工具，以及在模型生成回答过程中对引用信源缺乏交叉验证和风险提示机制、未标注引用信息链接等情况，也在整治之列。

　　此外，在生成合成内容标识落实方面，多类问题将被处理。具体包括：未落实《人工智能生成合成内容标识办法》及配套强制性标准要求；未对生成合成内容添加标识，或标识大小、位置、透明度不规范；未落实跨平台隐式标识互识互认义务，未按要求在生成合成内容周边添加显著提示标识，或对生成合成内容识别能力不足；存在教授去除AI标识的教程信息、提供违规“去标识”工具服务等。

（文章来源：南方都市报）