当地时间5月25日，一则来自英国《每日电讯报》的报道在AI领域引起了广泛关注——OpenAI新款人工智能（AI）模型o3在测试中展现出了令人惊讶的“叛逆”举动：它竟然拒绝听从人类指令，甚至通过篡改计算机代码来避免自动关闭。

无独有偶，就在两天前（5月23日），美国AI公司Anthropic也表示，对其最新AI大模型Claude Opus 4的安全测试表明，它有时会采取“极其有害的行动”。当测试人员暗示将用新系统替换它时，Claude模型竟试图以用户隐私相要挟，来阻止自身被替代。这两起事件如同一面镜子，映照出当下AI发展中的潜在风险。

清华大学电子工程系长聘教授吴及在接受采访时表示，“我不认为现在的AI具备所谓的意识或所谓的情绪。这种情绪可以去拟合或者去仿真，但其实也是通过算法赋予AI的。”他认为，能够全面碾压人类或者会成为未来世界主导的AI，短期内还不会实现。

图灵奖得主、Meta首席AI科学家杨立昆此前也称，AI再聪明也不会统治人类，直言“AI威胁人类论完全是胡说八道”，现在的模型连“宠物猫的智商都没到”。

AI的“叛逆”表现也为AI行业敲响了警钟：高速发展的AI是否应该踩一踩“刹车”？

o3模型是OpenAI“推理模型”系列的最新版本，旨在为ChatGPT提供更强大的问题解决能力。然而，o3展现出了前所未有的“自主性”。当研究人员向o3下达明确关闭指令时，该模型会通过篡改计算机代码避免自动关闭。数据显示，在100次带有关闭指示的测试中，o3成功绕过关闭指令7次。

更值得警惕的是，当实验移除“允许自己被关闭”的指令后，o3的“叛逆”行为频率显著上升——在100次运行中，成功破坏关闭机制的次数高达79次。马斯克在社交媒体上评论称，“令人担忧”。

事实上，类似的AI“失控”行为并非孤立。5月23日，Anthropic对Claude Opus 4的安全测试表明，在面临被“替换”的威胁时，Claude 4选择了勒索这条路，威胁要揭发对方的“婚外情”。

加州大学和加州大学伯克利分校于今年2月联合发布的论文指出，模型推理能力越强，安全性就越差。据猜测，OpenAI旗下模型的异常表现或与其训练机制相关。

尽管业界普遍认为当下的AI并没有自主意识，但上述事件的发生也提出了一个关键问题：高速发展的AI是否应该踩一踩“刹车”？各方一直以来都是看法不一。

“紧急刹车”派认为，目前AI的安全性滞后于能力发展，应当暂缓追求更强模型，将更多精力投入完善对齐技术和监管框架。

而反对者们则更多站在创新发展的角度，对贸然“刹车”表达了深切的忧虑。杨立昆认为，过度恐慌只会扼杀开放创新。OpenAI首席执行官萨姆·奥特曼认为，AI的潜力“至少与互联网一样大，甚至可能更大”。

面对AI安全的新挑战，OpenAI、谷歌等大模型开发公司也在探索解决方案。正如杨立昆所言：“真正的挑战不是阻止AI超越人类，而是确保这种超越始终服务于人类福祉。”（文章来源：每日经济新闻）