AI导读：

2025世界人工智能大会上，深度学习之父辛顿发表演讲，指出人工智能系统可能超越人类智能，存在失控风险，并强调指引AI向善的重要性，与大会主题“智能时代，同球共济”相呼应。

　　2025世界人工智能大会主论坛首位的发言人，是享誉全球的深度学习之父、图灵奖的获得者、2024年物理学诺奖得主杰弗里·辛顿。

　　1947年出生的辛顿，十几岁时就落下腰伤顽疾，到2005年左右，他几乎完全无法坐下，否则会有腰椎间盘滑脱风险。往后能站着的情况他绝不会坐着。

　　一位和辛顿有短暂相处的人工智能科学家告诉我们，因为腰疾，辛顿总是随身带个厚垫子，这次来中国也不例外。

　　辛顿说了他做神经网络研究的感受，有一条他突然觉得语言就像乐高，可以随意拼接。每一个词上其实有很多“手”，在不同语境下可以组合不同的词组，这正是后来对世界带来重要影响的Transformer构架的灵感来源。

　　辛顿认为，人类正处于一个关键转折点——人工智能系统正迅速接近并可能超越人类智能水平，会执行并非操作者所期望或预测的行动。我们已经习惯是世界上最智慧的生物，如果不是了呢？

　　也就是说，辛顿觉得通用人工智能有失控的风险，从而带来灾难。辛顿认为AI不会给人类“拔网线”的机会，到了那一天AI会劝说人们不要这么做。因为人类对AI的控制，就像“三岁孩子制定规则约束大人”。

　　现在的情况，相当于人类养了一只老虎，我们一定要让老虎遵守规矩，也就是指引AI向善。这也与比人工智能大会的主题“智能时代，同球共济”不谋而合。

（文章来源：上观新闻）