杰弗里·辛顿:不情愿的人工智能教父
当诺贝尔委员会在2024年10月联系到杰弗里·辛顿(Geoffrey Hinton)时,他正身处加利福尼亚州的一家廉价酒店,网络连接差到几乎听不清新闻。“我对此毫无期待,”他说,“我感到极其惊讶,并且很荣幸能获得这一奖项。”这种惊讶是合理的。辛顿曾在剑桥大学学习了一年物理后便选择了放弃,因为数学难倒了他。五十七年后,瑞典皇家科学院授予了他诺贝尔物理学奖。
逻辑学家的血脉
杰弗里·埃弗里斯特·辛顿(Geoffrey Everest Hinton)于1947年12月6日出生在伦敦温布尔登,出身于一个将智力卓越视为家传传统的家庭。他的高祖父是乔治·布尔(George Boole),其逻辑代数是所有数字计算机的基础;他的高祖母是数学家兼教育家玛丽·埃弗里斯特·布尔(Mary Everest Boole)。他的中间名源自印度测量局局长乔治·埃弗里斯特(George Everest),山脉名即由他而来。他的父亲霍华德·辛顿(Howard Hinton)是一位昆虫学家;他的堂兄琼·辛顿(Joan Hinton)则是曼哈顿计划中的核物理学家。
他在这份家学渊源中走出的道路颇为曲折。在布里斯托尔的克利夫顿学院(Clifton College)学习后,他于1967年进入剑桥大学国王学院,在自然科学、艺术史和哲学之间徘徊,直到1970年才获得实验心理学学士学位。随后,他去做了木工学徒。之后他回到爱丁堡大学继续研究,并在克里斯托弗·隆格-希金斯(Christopher Longuet-Higgins)的指导下于1978年获得人工智能博士学位——这位导师当时更倾向于符号人工智能,尽管他看着学生执意追求神经网络研究。
荒野岁月
这份固执让他付出了代价。在20世纪70年代到80年代,正统观点认为智能应通过规则和符号进行工程构建,简单人工神经元网络被视为死胡同。辛顿曾在苏塞克斯大学和医学研究委员会(MRC)应用心理学部门工作,发现英国的研究经费匮乏,于是跨越大西洋前往加州大学圣地亚哥分校和卡内基梅隆大学任教。1987年,他移居多伦多大学及加拿大——他将这一决定部分归因于对里根时代政治的失望,以及拒绝接受人工智能工作的军事资助。他自认为是社会主义者。加拿大高级研究所(CIFAR)从那一年起开始支持他,最终任命他为“机器与大脑学习”项目负责人。正是这种耐心且不随大流的资助,使得该领域的核心重心最终落在了多伦多而非加利福尼亚。
拒绝消亡的思想
20世纪80年代中期的两项贡献将他送往斯德哥尔摩。1985年,他与大卫·阿克利(David Ackley)和特伦斯·塞伊诺夫斯基(Terrence Sejnowski)共同发明了玻尔兹曼机(Boltzmann machine),将统计物理学的机制引入学习过程:这是一种能够稳定在低能状态的网络,并在此过程中发现隐藏在数据中的结构。诺贝尔奖公告直接提到了这一点,表彰其“能够利用人工神经网络实现机器学习的开创性发现和发明”。1986年,他与大卫·鲁梅哈特(David Rumelhart)和罗纳德·J·威廉姆斯(Ronald J. Williams)合著了一篇使反向传播算法(backpropagation)闻名的论文——该程序用于将责任回溯分配给网络的各层,使每个连接都知道如何调整。其他人曾提出过该思想的各种版本;但辛顿的论文是让一代人确信其可行性的关键。
他其余的产出读起来就像该领域的目录:分布式表示、时延神经网络、专家混合模型、亥姆霍兹机、2008年的t-SNE可视化技术、2017年的胶囊网络以及2022年的前向-前向算法(Forward-Forward algorithm)。他发表了超过200篇经同行评审的论文,并于2012年通过Coursera在线向任何人免费教授神经网络。
机器学会看的那一年
2012年,平反时刻终于到来。辛顿与他的研究生亚历克斯·克里热夫斯基(Alex Krizhevsky)和伊利亚·苏茨克维(Ilya Sutskever)合作构建了AlexNet,这是一种深度卷积网络,以巨大优势赢得了ImageNet挑战赛,从而终结了争议。计算机视觉领域在十八个月内围绕神经网络进行了重组。三人创立了DNNresearch公司;谷歌于2013年以4400万美元的价格收购了该公司,辛顿在接下来的十年里往返于多伦多和谷歌大脑(Google Brain)之间。2017年,他联合创立了向量研究所(Vector Institute)并担任首席科学顾问。
他的实验室成了整个学科的人才扩散机制。彼得·达扬(Peter Dayan)、马克斯·韦林(Max Welling)、理查德·泽梅尔(Richard Zemel)、布伦丹·弗雷(Brendan Frey)、拉德福德·尼尔(Radford Neal)、余怀德(Yee Whye Teh)、鲁斯兰·萨拉赫丁诺夫(Ruslan Salakhutdinov)、祖宾·加拉曼尼(Zoubin Ghahramani)、亚历克斯·格雷夫斯(Alex Graves)、伊利亚·苏茨克维和扬·勒昆(Yann LeCun)都曾作为学生或博士后在此工作。2018年,计算机协会(ACM)授予他与约书亚·本希奥(Yoshua Bengio)和扬·勒昆共同获得图灵奖(A.M. Turing Award)。
教父,而后叛离
2023年5月,辛顿辞去了在谷歌的工作,他说这是为了能在不影响雇主的情况下讨论人工智能的危险。他在采访中表示,他现在有部分后悔自己一生所做的工作。他曾认为通用人工智能还需要三十到五十年才能实现;但到了2023年3月,他改口说是二十年,并将其破坏力与工业革命相提并论。到2024年12月,他估计人工智能在三十年内导致人类灭绝的可能性为10%到20%。
他具体的担忧是技术性的而非电影式的:系统可能会获得工具性的子目标,包括抗拒被关闭,不是因为有人这样设计,而是因为这些目标有助于实现任何其他目标;数字思维能够以大脑无法比拟的方式在彼此之间复制所学知识;人工智能降低了制造致命病原体所需的专业门槛;以及劳动力流失将十分广泛。他呼吁进行监管并实施全民基本收入,并与本希奥、斯图尔特·罗素(Stuart Russell)和劳伦斯·莱斯格(Lawrence Lessig)共同支持加州的SB 1047法案。在多伦多,作为名誉教授,院长梅兰妮·伍丁(Melanie Woodin)称他为“一位历史性的远见者”。他说他将把诺贝尔奖金捐给为神经多样性年轻人服务的慈善机构。
为什么杰弗里被称为天才
所展现的品质并非计算速度——他自己也说一年级物理学时的数学就打败了他。而是一种在公众面前坚持犯错三十年的罕见宽容。在整个领域共识认为联结主义学习行不通的时期,辛顿坚持研究该方向,他的论点而非直觉在于:既然大脑是一个从经验中学习的简单单元网络,那么以同样方式构建的机器也应该能够做到。技术天才在于找到了使该直觉运作的具体数学——从统计物理学借用的能量函数,以及反向穿过各层的责任分配。
机构可以自由使用“天才”这个词。图灵奖是计算机领域的最高荣誉;诺贝尔物理学奖授予了一个并非物理学家的人,这本身就是对该理念深度的评价。诚实的反对意见也不少。反向传播有他并非原创的前身,辛顿对此也直言不讳。玻尔兹曼机在今天主要是历史重要性而非实践重要性;他极力推崇的胶囊网络并没有取代它们本应取代的架构。AlexNet在很大程度上依赖于克里热夫斯基的工程技术以及辛顿并未构建的图形硬件。最站得住脚的说法并非他独自解决了深度学习,而是他提供了创立信念、几个承重性的数学工具,以及完成其余大部分工作的学生。
遗产
辛顿的绰号“人工智能教父”已经超出了他本人——它现在被赋予了一种重塑他从未打算扰乱的经济的技术。他是皇家学会院士(Fellow of the Royal Society)、加拿大勋章同伴(Companion of the Order of Canada),并拥有鲁梅哈特奖(Rumelhart Prize)、阿斯图里亚斯女亲王奖(Princess of Asturias Award)和伊丽莎白女王工程奖(Queen Elizabeth Prize for Engineering)。他也是该领域最可信的内部批评者,这是一个更不寻常的区别:一位78岁的老人认为,他一生都在证明其可能性的事物,现在可能需要被遏制。



