约书亚·本吉奥：深度学习的良知

2025年11月，约书亚·本吉奥 (Yoshua Bengio) 成为首位在谷歌学术引用量突破一百万的人工智能研究者——按某些标准衡量，他是目前各领域中被引用次数最多的在世科学家。在过去两年里，他不断向各界人士告诫，其研究领域的发展速度已快到无法保障安全。很少有科学家能在亲手构建一个领域后，又如此公开地呼吁为其踩下刹车。

充满戏剧氛围的家庭

本吉奥于1964年3月5日出生于法国，其家庭是后来定居加拿大的摩洛哥犹太裔。他的家庭与其说是学术之家，不如说是艺术之家。他的父亲卡洛·本吉奥 (Carlo Bengio) 是一位药剂师兼剧作家，曾在蒙特利尔经营一家使用犹太-阿拉伯语演出的塞法迪犹太剧团。他的母亲西莉亚·莫雷诺 (Célia Moreno) 曾在20世纪70年代参与摩洛哥戏剧表演，并于1980年共同创立了蒙特利尔多媒体剧团“人类之屏” (l'Écran humain)。在本吉奥父亲服兵役期间，全家曾在摩洛哥生活了一年。他的弟弟萨米·本吉奥 (Samy Bengio) 本人也成为了一名重要的机器学习研究员，目前担任苹果公司人工智能与机器学习研究的高级主管。

约书亚在蒙特利尔完成了他全部的正规教育，并于麦吉尔大学 (McGill University) 获得了三个学位：1986年的计算机工程学士学位、1988年的计算机科学硕士学位和1991年的博士学位。随后，他进行了两年的博士后研究，这段经历塑造了他之后的一切——1991年至1992年在麻省理工学院 (MIT) 跟随迈克尔·I·乔丹 (Michael I. Jordan) 学习，1992年至1993年在AT&T贝尔实验室 (AT&T Bell Labs) 与扬·勒昆 (Yann LeCun) 一起工作。他曾提到勒昆和杰弗里·辛顿 (Geoffrey Hinton) 是引导他关注“智能本质”这一基础问题的导师。1993年，他回到蒙特利尔大学 (Université de Montréal) 担任教职，并于2002年成为正教授。他此后再未离开。

将词语向量化

本吉奥最重要的一项技术构想出现在2000年前后，当时他在研究所谓的“神经概率语言模型”。当时的问题在于“维度灾难”：一个将每个词视为独立原子符号的语言模型需要无限多的训练样本，因为它无法识别“猫” (cat) 和“小猫” (kitten) 之间存在关联。本吉奥的解决方案是为每个词学习一种高维连续表示——即向量——这样语义相似的词在空间中会彼此靠近，关于一个词的信息可以传递给邻近的词。词嵌入技术在自然语言处理中如今已无处不在，以至于人们很容易忘记曾有人首次提出过它。

他实验室随后的两项贡献同样具有持久的影响力。2014年，他与德米特里·巴赫达瑙 (Dzmitry Bahdanau) 和曹景贤 (Kyunghyun Cho) 一起，将注意力机制引入神经机器翻译中——这种机制让神经网络在生成输出的每个部分时，能够决定对输入的哪些部分进行加权。从那篇论文到现代语言模型背后的Transformer架构，其逻辑脉络清晰且直接。在同一时期，他的博士生伊恩·古德费洛 (Ian Goodfellow) 开发了生成对抗网络，通过训练生成器和判别器相互博弈，使照片级逼真的合成成为可能。本吉奥与古德费洛及亚伦·库维尔 (Aaron Courville) 合著了《深度学习》 (Deep Learning, MIT Press, 2016)，这本教科书培育了一代研究者。

构建蒙特利尔学派

本吉奥在机构建设方面的成就几乎与他的论文同样重要。他创立了魁北克人工智能研究所 (Mila)，并担任科学主任至2025年，使蒙特利尔成为硅谷和北京在深度学习人才竞争中为数不多的真正对手。他曾共同指导加拿大高级研究院 (CIFAR) 的“机器与大脑学习”项目。2016年10月，他参与创办了商业机构Element AI，该公司于2020年11月被ServiceNow收购。他还担任过包括Recursion Pharmaceuticals和Valence Discovery在内的药物发现公司的顾问。

2019年3月，美国计算机协会 (ACM) 将图灵奖 (A.M. Turing Award) 联合授予本吉奥、辛顿和勒昆，以表彰他们“在概念和工程上的突破，使得深度神经网络成为计算领域的核心组成部分”。此后荣誉接踵而至：2017年获加拿大勋章并当选加拿大皇家学会会员，2020年当选英国皇家学会会员，2022年获阿斯图里亚斯女亲王奖，2023年获法国荣誉军团骑士勋章，2024年入选《时代》周刊百大最具影响力人物并获得未来科学大奖 (VinFuture)，2025年获伊丽莎白女王工程奖。

转向

2023年3月，本吉奥签署了生命未来研究所 (Future of Life Institute) 的公开信，呼吁暂停训练比GPT-4更强大的系统六个月。同年5月，他告诉英国广播公司 (BBC)，他对自己毕生的工作感到“迷茫”，并对不良行为者可能如何利用这些技术感到不安。7月，他在《经济学人》 (The Economist) 上撰文称，“灾难的风险是真实存在的，现在必须采取行动”。他签署了一封支持加州SB 1047法案的信，称这是实现有效监管的底线。

这种转变最实质性的表现是在机构层面。在2023年11月布莱切利园AI安全峰会后，里希·苏纳克 (Rishi Sunak) 宣布了一份《国际AI安全报告》，本吉奥被任命为主席。该报告的临时版本于2024年5月在首尔峰会上发布；完整报告于2025年1月发布，以政府间气候变化专门委员会 (IPCC) 评估报告的严谨口吻，涵盖了网络攻击风险和失控场景。2025年6月，他发起了非营利组织LawZero，旨在开发他所谓的“诚实AI”，其旗舰项目——“科学家AI” (Scientist AI)——旨在预测自主智能体的拟议行动是否可能造成伤害。资助方包括生命未来研究所、施密特科学公司 (Schmidt Sciences)、盖茨基金会和加拿大政府。到2025年底，他主张赋予AI系统法律权利将是一个“巨大的错误”，理由是能够关停系统是所有其他保障措施的基础。

为什么约书亚被称为天才

这个词之所以与本吉奥紧密相连，是因为他具有一种反复展现的能力：能够透视实际问题背后的抽象结构，并找到相应的数学表征。词嵌入是最好的例子——语言建模面临的困难最初看起来像是一个数据稀缺问题，但他将其重构为一个表征问题。美国计算机协会在图灵奖授奖词中描述他遵循自己的“科学直觉”，这是对“准确押注哪些方向值得投入数年心血”这一行为的礼貌技术术语。引用计数支持了这一影响力主张：他在计算机科学家中拥有最高的学科h指数，是首位获得百万引用的人工智能研究者。

诚实的反对意见在于，本吉奥最著名的研究成果通常是协作的，且往往由学生主导。神经机器翻译中的注意力机制是巴赫达瑙的论文，本吉奥作为资深作者；生成对抗网络是古德费洛的构想；现代Transformer源自谷歌，而非蒙特利尔。引用计数在很大程度上衡量的是整个领域的增长，而非个人的才华；而深度学习的爆发式增长源于廉价GPU、海量数据集等研究者无法控制的因素。真正独特且难以反驳的是这种结合：一位处于技术崛起绝对中心位置的科学家，转而建立了审查该技术的体制机制，即便这对他自己在前同事中的声望造成了实际代价。

遗产

本吉奥在计算领域的印记如今已是永久性的，嵌入在每一个将词语转化为向量的系统和每一个学习观察位置的模型中。他的第二篇章或许会被证明更有意义。他正在尝试一件科学家很少能做到的事：在继续保持作为一项技术领域最高技术权威的同时，担任其最严厉的批评者，并将谨慎研究变成一项研究纲领，而非仅仅是一份新闻稿。