一张伪造的媒体快讯截图，让金山软件股价应声下跌。一张“库克入职小米汽车”的虚假官宣图，在社交平台疯狂传播，即便小米高管紧急辟谣仍难止扩散。还有“余承东与雷军直播互殴”的合成画面，凭借逼真的光影效果和人物神态，让不少网友信以为真。

　　OpenAI旗下GPT-Image 2的横空出世，用技术突破将“以假乱真”推向新高度，却也让“有图无真相”从调侃变成必须直面的社会问题——当技术狂奔而伦理失序，再惊艳的创新也可能沦为制造混乱的工具。

　　GPT-Image 2与前代AI生图工具的差距，已不是“画质提升”那般简单。

　　在LMSYS Image Arena评测中，它以1512分的高分断层领先，超出第二名谷歌Nano Banana 2达242分，创下榜单历史最大分差纪录。其核心突破在于解决了两大关键问题。一是文字渲染准确率从90%-95%跃升至99%以上，中文等非拉丁语系文字不再出现乱码，连金属针尖上的微雕楷书都清晰可辨。二是“思考模式”让AI生成图片前先拆解任务、联网搜索、规划布局，再自我复核纠错，复杂空间推理失败率大幅降低。

　　更值得警惕的是，它支持原生4K分辨率，生成速度提升6倍，普通用户输入一句话，3秒就能得到足以乱真的海报、证件、新闻截图，造假门槛被彻底拉平。

　　技术的革命性进步，本应成为提升生产效率的利器，却在缺乏约束的环境中迅速异化。从娱乐玩梗到恶意造谣，GPT-Image 2的滥用边界正被不断突破。

　　网友用它伪造“西山居解散”的企业公告，因细节逼真且模仿正规媒体格式，直接影响资本市场稳定，最终触发法律追责；安徽一女子用AI生成“流浪汉卧坐餐厅”图片测试丈夫，导致警方紧急出警，浪费公共资源；广东某小区业主孩子伪造“流浪汉闯家门”的图片，在业主群引发全楼恐慌。

　　还有更多暗藏礁底的商业欺诈。有电商卖家发现，消费者用AI生成商品变质的虚假图片申请“仅退款”，维权时真假难辨；部分教育机构用AI生成“成功家庭”合照，塑造虚假人设兜售高价课程，家长难察破绽。

　　这些案例无不印证：当造假成本趋近于零，伦理底线便会被轻易践踏，技术红利很快就会被风险吞噬。

　　“有图无真相”的泛滥，极易动摇社会运转的信任根基。从个人层面看，AI生成的虚假不雅照、伪造的聊天记录截图，可能让普通人遭遇无妄之灾，名誉受损却维权困难；商业层面上，虚假的企业负面新闻图片、伪造的产品质量问题画面，能在短时间内摧毁一家企业的声誉，引发股价波动；社会层面而言，AI生成的灾难现场、群体事件图片，可能加剧公众恐慌，甚至挑拨社会矛盾，破坏公共秩序。GPT-Image 2能完美伪造身份证、营业执照、转账记录等具有法律效力的文件，为诈骗、勒索等犯罪行为提供便利。

　　尽管《人工智能生成合成内容标识办法》已实施，但网络上仍有大量AI生成内容既无作者标注，也无平台提示，部分软件还支持付费去除水印，让监管难上加难。

　　面对技术带来的挑战，企业与平台不能沦为“甩手掌柜”。生图技术企业应承担起源头治理责任，将伦理约束嵌入技术设计，强制添加不可篡改的C2PA数字水印和显式标识，即便付费用户也不应移除。此外，应建立内容审核机制，对涉及名人、企业、公共事件的生成请求进行风险过滤，阻断恶意造假通道。

　　社交与内容平台则需升级检测技术，对疑似AI生成的图片、视频进行主动标识，参考企业级解决方案的安全架构，建立数据隔离、审计日志等多层防护体系，同时简化举报流程，对恶意传播虚假AI内容的账号加大处罚力度。

　　道理很简单——技术创新不能以牺牲公共安全为代价，企业的社会责任才是长期发展的核心竞争力。

　　对用户而言，在“后真相时代”生存，需要培养一种新的媒介素养：默认怀疑。看到任何截图、照片或“现场视频”，第一反应不应是转发，而是溯源。官方渠道核实、多源信息比对、细节放大检查应成为基本操作。使用AI生图的用户也应明确法律边界，知晓恶意伪造、传播AI虚假内容可能面临行政拘留甚至刑事处罚。

　　GPT-Image 2的技术突破值得喝彩，它让设计民主化成为可能，为创意产业带来效率革命。但我们更需清醒认识到，技术本身没有善恶，其价值取决于使用的边界与伦理的底线。

　　当“眼见为实”的传统认知被打破，我们不能任由虚假信息泛滥，更不能让技术进步以牺牲社会信任为代价。毕竟，再强大的技术突破，若失去伦理的约束，最终只会反噬社会。

　　让AI生图技术真正服务于人类，而非成为制造谎言的工具——这是我们必须守住的底线。

（文章来源：界面新闻）