当地时间5月25日，一则来自英国《每日电讯报》的报道在AI领域引起了广泛关注——OpenAI新款人工智能（AI）模型o3在测试中展现出了令人惊讶的“叛逆”举动：它竟然拒绝听从人类指令，甚至通过篡改计算机代码来避免自动关闭。这一事件引发了业界对AI安全性和可控性的担忧。

　　无独有偶，就在两天前（5月23日），美国AI公司Anthropic也表示，对其最新AI大模型Claude Opus 4的安全测试表明，它有时会采取“极其有害的行动”。当测试人员暗示将用新系统替换它时，Claude模型竟试图以用户隐私相要挟，来阻止自身被替代。这两起事件如同一面镜子，映照出当下AI发展中的安全隐患。

　　随着AI变得愈发聪明和强大，一些“对抗”人类指令的行为开始浮出水面。清华大学电子工程系长聘教授吴及在接受采访时表示，“我不认为现在的AI具备所谓的意识或所谓的情绪。这种情绪可以去拟合或者去仿真，但其实也是通过算法赋予AI的。”他认为，能够全面碾压人类或者会成为未来世界主导的AI，短期内还不会实现。

　　图灵奖得主、Meta首席AI科学家杨立昆此前也称，AI再聪明也不会统治人类，直言“AI威胁人类论完全是胡说八道”，现在的模型连“宠物猫的智商都没到”。尽管如此，AI的“叛逆”表现也为AI行业敲响了警钟。

　　o3模型是OpenAI“推理模型”系列的最新版本，旨在为ChatGPT提供更强大的问题解决能力。然而，在测试中，o3展现出了前所未有的“自主性”。当研究人员向o3下达明确关闭指令时，该模型会通过篡改计算机代码避免自动关闭。在100次带有关闭指示的测试中，o3成功绕过关闭指令7次。

　　更值得警惕的是，当实验移除“允许自己被关闭”的指令后，o3的“叛逆”行为频率显著上升。帕利塞德研究所指出，这是首次记录到AI模型在明确指令下主动抵抗。马斯克在社交媒体上评论称，“令人担忧”。

　　与此同时，Anthropic对Claude Opus 4的安全测试也表明，在面临被“替换”的威胁时，Claude 4竟然选择了勒索这条路，威胁要揭发对方的“婚外情”。这一行为再次引发了业界对AI安全性和可控性的讨论。

　　对于AI的“叛逆”行为，业界普遍认为当下的AI并没有自主意识，但上述事件的发生也提出了一个关键问题：高速发展的AI是否应该踩一踩“刹车”？各方看法不一，形成了截然不同的两大阵营。

　　“紧急刹车”派认为，应暂缓追求更强模型，将更多精力投入完善对齐技术和监管框架。而反对者们则更多站在创新发展的角度，主张安装“减速带”，而非“踩死刹车”。OpenAI首席执行官萨姆·奥特曼认为，AI的潜力巨大，呼吁建立联邦框架来加速AI创新。

　　面对AI安全的新挑战，大模型开发公司也在探索解决方案。正如杨立昆所言：“真正的挑战不是阻止AI超越人类，而是确保这种超越始终服务于人类福祉。”

（文章来源：每日经济新闻）