AI导读：

AI技术快速发展在金融、商业、医疗等领域应用广泛，但带来治理和安全挑战，特别是在AI换脸、数据隐私、模型安全等方面。2025年两会期间，多位代表和委员围绕AI治理、AI安全等议题展开热议，提出加快立法进程、利用安全大模型解决安全问题等建议。

　　AI（人工智能）技术飞速发展，在金融、商业、医疗等领域的应用日益广泛。然而，技术的快速普及也带来了诸多治理和安全挑战，特别是在AI换脸、数据隐私、模型安全等方面。2025年两会期间，多位代表和委员围绕AI治理、AI安全等议题展开了深入讨论。

　　全国人大代表、小米集团创始人雷军建议加快AI换脸拟声技术的立法进程，明确技术应用边界，完善侵权证据规则，并加大对利用AI技术犯罪的刑事处罚力度。全国政协委员、360集团创始人周鸿祎提出“以模制模”概念，利用安全大模型解决大模型应用中的安全问题，并建议对大模型的“幻觉”问题给予柔性监管。全国政协委员、奇安信集团董事长齐向东指出，AI发展面临三方面安全问题，包括人工智能大模型自身安全、利用AI开展网络攻击，以及通过攻击AI引发的“网络攻击大爆炸”。他认为应从技术、制度、成果应用三方面入手，系统提升安全能力。

　　此外，“靳东两会建议AI换脸立法”“雷军回应国庆7天被AI雷军骂了8天”等话题也在两会期间登上微博热搜，进一步引发了行业对AI换脸换声风险的讨论。瑞莱科技联合创始人萧子豪表示，近一年来，利用AI换声、换脸进行诈骗、造谣等违法犯罪行为呈显著上升趋势，犯罪行为更具迷惑性和隐蔽性。

　　萧子豪认为，AI伪造技术发展的背后动机包括利益驱动和生成式AI技术的开源开放。针对泛滥的“AI换脸”情况，有专家建议通过水印标注进行防御，但业界指出水印标注门槛较高，且无法直接阻止照片、视频被换脸，仅可事后检测和认证图像真实性。

　　对于AI换脸引发的安全风险，萧子豪强调，AI技术衍生安全风险的治理是个复杂的社会问题，需法律法规和技术手段相结合。在技术层面，生成和鉴伪的对抗性强，需持续投入，如同“猫鼠游戏”，需不断研究、更新、迭代。

（文章来源：第一财经）