“香港金融科技周×StartmeupHK创业节2025”圆满落幕，金融壹账通展示AI驱动的金融机构数字化转型方案，其反欺诈策略平台抗深度伪造综合防御率高达99%。...

当地时间11月6日，巴菲特执掌的伯克希尔-哈撒韦公司澄清优兔上传播的巴菲特评论视频是AI伪造的欺诈性视频。如今，深度伪造内容快速传播，带来诸多问题。美国联邦层面无相关法规，加州有监管法案。国内也有学者、名人成受害者，抖音开展专项治理。中央网信办启动整治行动，我国多部法律法规对AI内容规范提出要求。...

当地时间10月20日，OpenAI宣布与演员布莱恩·克兰斯顿、美国演员工会等合作，共同防范Sora AI视频生成应用的深度伪造内容，并持续调整版权与肖像使用政策，支持《禁止伪造法案》。...

当地时间周一，OpenAI宣布与演员布莱恩·克兰斯顿、美国演员工会等合作，共同防范其AI视频生成应用Sora的深度伪造内容，以维护网络内容真实性与安全性。...

香港金管局公布GenA.I.沙盒参与者名单，聚焦反诈骗创新。AI深度伪造欺诈暴增3000%，钓鱼邮件增长1000%。业界探索以AI识别AI伪造，智能视觉反欺诈平台检测防御率超99%，技术反制成金融安全关键。...

2025年北京查处AI仿冒名人带货案，揭示技术滥用成社会公害。案件暴露监管漏洞与平台责任真空，凸显法律、伦理与共治对数字生态的重要性。...

10月15日，平安集团旗下PAObank与金融壹账通联合打造的“反欺诈策略平台”入选香港GenA.I.沙盒，标志着AI科技在香港银行业应用的突破。该平台通过AI识别AI伪造，提升风险管理和欺诈防范能力，助力构建金融安全防线。...

Sora App成为AI应用新热门，上线7天iOS下载量超62万，超越ChatGPT。采用Sora 2模型的App让非专业人士也能轻松制作复杂视频，但AI深度伪造内容泛滥引发担忧，影视行业专业人士呼吁OpenAI采取行动。...

8月28日，2025上海网络安全产业创新大会上，上海人工智能安全工作委员会揭牌成立，旨在推动AI与安全技术协同，应对深度伪造等新型威胁，重塑产业防御范式。...

生成式AI发展引发欺诈风险关注，蚂蚁数科与斯坦福大学在国际人工智能联合会议期间分别开源两大深度伪造数据集，涵盖多种模态，为行业提供基础数据资源，推动AI安全技术发展。...

本文探讨了AI如何篡改人类记忆，通过三项实验揭示AI能增强植入错误记忆的能力，年轻人更易受影响，且错误记忆不依赖于欺骗参与者相信内容真实性。...

美国国务院近日表示，自6月中旬起，有人假冒国务卿鲁比奥，利用AI生成其声音及短信，联系至少5名官员。美国当局认为肇事者试图操纵政府官员以获取信息或账户访问权限。随着AI技术进步，滥用AI欺骗的情况持续增加，网络安全问题引发关注。...

近期，雷军等公众人物对AI深度伪造技术带来的困扰表示担忧，并纷纷建言加强监管。他们呼吁加快立法进程，强化行业自律，加大普法宣传力度。同时，短视频平台也在积极应对，提升识别能力，对疑似AI生成内容进行标注并受理用户举报。...