新闻周刊丨人工智能滥用治理：监管与立法的紧迫性（AI监管,AI立法,AI滥用）

声音和形象被AI合成滥用的事儿正变得越来越多。本周，奥运冠军全红婵、王楚钦等人的声音被AI克隆，用于售卖“土鸡蛋”。配音演员因声音被AI一键复制而维权，引发对AI滥用治理的关注。当声音和面容被轻易挪用，人与人之间的信任如何维系？AI发展迅猛，监管和立法如何守住底线？《新闻周刊》本周聚焦：人工智能的滥用治理。

AI换脸、声音克隆滥用：真假难辨的挑战（AI换脸,声音克隆,AI伪造）

配音演员孙晨铭的原声被AI克隆，某自媒体账号生成的配音作品几乎无法分辨。房产公司未经授权克隆其声音用于企业宣传片，引发版权纠纷。微信平台1月处置1.2万条AI仿冒名人内容，关闭3281个账号。北京互联网法院审结一起案件，判定擅自使用李女士肖像和AI合成声音进行图书宣传的行为侵权。AI技术的飞速发展使真与假界限模糊，监管面临巨大挑战。

全民AI时代：监管能否跟上技术步伐？（全民AI时代,AI监管,AI技术滥用）

AI合成视频以假乱真，技术门槛大幅降低。普通人通过手机和软件即可生成各类内容，进入“全民AI时代”。然而，技术普及带来AI滥用问题：人脸和声音被合成冒用，低俗猎奇视频传播，谣言泛滥。抖音安全中心发现多种不当使用AI技术生成虚拟人物的行为，包括利用AI生成俊男美女虚假形象进行诈骗。AI生成的文字谣言监管更加困难，相关机构利用AI软件一天最多能生成4000—7000篇谣言文章。

AI标识制度：能否改变滥用现状？（AI标识制度,AI生成内容,AI虚假宣传）

网信办等四部门印发的《人工智能生成合成内容标识办法》将于9月1日施行，明确规定服务提供者应对生成合成内容添加显式标识。北京抖音信息服务有限公司副总编辑全森表示，该办法解决了技术服务平台与内容传播平台之间数据难以互通的问题，预计将很大程度上解决AI难以识别的问题。然而，专家认为，仅靠标识制度不足以彻底解决AI滥用问题，需要更高位阶的立法予以统一规范。

AI立法：划定科技发展的红线（AI立法,AI滥用治理,AI安全）

人工智能正以前所未有的速度改变世界，但通过监管和立法为其划定边界显得十分紧迫。中国在该领域的立法起步较早，2023年施行的《互联网信息服务深度合成管理规定》首次明确提出生成式人工智能标识义务。然而，专家认为，仍需要一部具有统领性的人工智能高位阶立法。国务院公布的2024年度立法工作计划中明确“预备提请全国人大常委会审议人工智能法草案”，而《全国人大常委会2025年度立法工作计划》则表示“人工智能健康发展等方面的立法项目，由有关方面抓紧开展调研和起草工作，视情安排审议”。

AI的未来：机遇与挑战并存（AI未来,AI风险,AI训练）

对于人工智能，有人将其比作潘多拉魔盒，在释放无限可能的同时，也会带来难以预知的风险。图灵奖得主辛顿提醒，要对AI保持足够的警觉。人类与AI的关系比作饲养一只老虎，老虎长大后可能轻易超越人类。如何训练出比人更聪明的“好AI”，是我们从未遇到过的巨大机会和挑战。正如中国那句老话，“人无远虑，必有近忧”，在AI的问题上，我们必须看得更远，才能走得更好。(来源：央视新闻客户端)