“AI教父”辛顿表示，现在的多模态AI（人工智能）聊天机器人在某种意义上“是有意识的”，各国应尽快分享让AI“善良”的方法。

　　7月26日，2025世界人工智能大会（WAIC）正式开幕。图灵奖得主、诺奖得主、“AI教父”杰弗里·辛顿出席了下午的科学前沿全体论坛，与上海AI Lab主任周伯文展开对话。辛顿受到了全体观众的热烈欢迎。

　　可以说AI“有意识”，各国应分享让AI善良的方法

　　周伯文询问了辛顿对于“多模态和语言模型能发展出自己的主观体验”的观点的解读。辛顿表示，这取决于对“主观体验”或“意识”的定义，许多人对这些概念的理解存在系统性错误。

　　辛顿先谈到了自己在1987年发表的论文《The Horizontal-Vertical Delusion》中的经典案例，指出许多人在描述水平与垂直的概念时存在系统性混淆。

　　将其类比到“模型是否有主观意识”的论点，辛顿指出当今的多模态聊天机器人已经具有意识。

　　2024图灵奖得主Richard Sutton也在会上发表了视频演讲，称AI发展已进入一个新阶段。

　　关于主观体验，辛顿进一步阐释道，当AI以机器人等形式进入世界，它们就有了自己的“体验”，可以从自己的经验中学习。

　　关于AI安全，辛顿再次强调，让AI“聪明”和“善良”是两个截然不同的问题，国家应该分享让模型善良的技术。

　　辛顿补充道，可能存在让AI善良的通用训练方法，但当AI变得越来越智能时，保证其善良的现有方法也可能失效，所以需要在这个方面进行大量研究。

　　建议年轻研究者“着眼于那些你认为所有人都做错了的领域”

　　在对话中，辛顿还谈到，自己获得诺贝尔物理学奖是一个“错误”。关于AI对其他领域科学发展的影响，辛顿认为，AI确实为科学做出了许多贡献，最显著的一个例子是医药领域的蛋白质折叠。

　　最后，被问到对年轻研究者们的建议，辛顿表示，在进行原创研究时，要着眼于那些“认为其他所有人都做错了”的领域。

　　辛顿补充道，有一种逻辑能够支撑这一观点。

　　在当天上午的演讲中，辛顿发表了一篇围绕AI安全的主题演讲。辛顿表示，人类实际上很像大语言模型。他将人类目前的处境比作养小老虎当宠物，如果人类想要生存，必须找到办法训练AI，不要让AI消灭人类。

　　2024年10月8日，瑞典皇家科学院宣布，将2024年诺贝尔物理学奖授予约翰·霍普菲尔德和杰弗里·辛顿，以表彰他们“为推动利用人工神经网络进行机器学习作出的基础性发现和发明”。辛顿是卷积神经网络理论的领军人物，也被誉为“AI教父”。

　　本次世界人工智能大会以“智能时代同球共济”为主题，共规划了超100场专业论坛，汇聚1200余位全球专家，12位图灵奖、诺奖得主，大会将持续至7月28日。

（文章来源：澎湃新闻）