AI导读:

全国政协委员靳东回应AI换脸导致的诈骗问题,呼吁建立更好的规则。通义千问AI和deepseek提出构建“法律+技术+社会”三位一体治理体系。多位人大代表和政协委员也提出建议,加强立法、技术治理和全民数字素养教育。

 据@人民日报消息,在3月5日的政协小组讨论上,全国政协委员靳东回应了AI换脸导致的诈骗问题,指出一些喜欢其影视剧的观众被AI换脸视频骗得很惨,性质非常恶劣,希望能建立更好的规则。

此前有报道显示,网络上有人利用AI合成照片等方式冒充“靳东”实施诈骗。

人民日报相关报道微博截图

靳东建议登上热搜

AI怎么看?通义千问AI(Qwe2.5-max)认为,需构建“法律+技术+社会”三位一体治理体系,以应对AI换脸乱象。立法层面,加快制定《人工智能伦理法》,明确换脸技术使用禁区,建立责任机制,推行AI生成内容强制标识制度。技术层面,国家设立深度伪造检测中心,研发动态对抗算法。社会层面,将AI换脸反诈纳入全民数字素养教育,金融机构升级生物特征验证体系。

Deepseek则认为,滥用AI换脸技术引发的社会乱象亟需建立多维治理体系。首先要完善法律框架,通过专项立法明确AI生成内容的标识义务。技术治理方面,推行生成式AI备案制,网络平台建立“AI内容防火墙”。社会共治方面,开展全民数字素养教育,提升公众对换脸诈骗的辨识能力。同时,健全追责机制,对黑灰产链条实施穿透式打击。

最高人民检察院公益诉讼检察厅厅长徐向春表示,人工智能技术的不当使用可能损害诚信体系和核心价值观,破坏正常秩序。检察机关正在探索大数据法律监督模型构建,积极应对人工智能滥用可能引发的公益损害。

全国人大代表雷军提到,AI换脸拟声技术的滥用已造成多起违法侵权行为,建议加快单行法立法进程,强化行业自律共治,加大普法宣传力度。

全国人大代表李东生建议,对人工智能生成的内容进行强制标识,以减少恶意滥用。但强制标识在实际落地过程中面临诸多挑战,如确保标识不被篡改、跨模型统一标识标准、权衡性能与效率等。

全国政协委员、安徽省律师协会监事长周世虹介绍,我国已施行《生成式人工智能服务管理暂行办法》,但缺乏高位阶的专门立法,覆盖范围有限。

(文章来源:南方都市报)