杰夫·迪恩:每个人搜索栏背后的基础设施
互联网上流传着一种完全围绕一位谷歌(Google)工程师的笑话,其模式类似于查克·诺里斯(Chuck Norris)的事实:杰夫·迪恩的代码没有漏洞,只有特性;据说在2002年索引服务器宕机时,杰夫·迪恩曾手动回答用户搜索请求长达两小时,结果评估得分还提高了五分。这种笑话之所以存在,是因为其背后的主张——即运行谷歌以及延伸到现代互联网的巨大份额的基础设施,都经过了这位工程师之手——实际上并不夸张。
从夏威夷到双子城
杰弗里·阿德盖特·迪恩(Jeffrey Adgate Dean)于1968年7月23日出生在夏威夷。他的父亲是一位热带病研究人员,母亲是一位医学人类学家,他们的工作使全家频繁搬迁;他从五年级到十年级在明尼苏达州双子城上学。1990年,他以最优异成绩(summa cum laude)从明尼苏达大学获得计算机科学和经济学双学位学士学位,并在导师维平·库马尔(Vipin Kumar)的指导下完成了关于C语言神经网络的本科论文——这是他职业生涯后期大规模构建此类技术时极其早期的接触。他在大一期间遇到了未来的妻子海蒂·霍珀(Heidi Hopper),两人于1990年共同毕业。在研究生院之前,他在世界卫生组织(World Health Organization)的全球艾滋病规划署工作,编写统计建模软件以预测艾滋病大流行的传播——这是一项应用型、具有深远影响的软件工作,而非学术上的绕道。随后,他在华盛顿大学(University of Washington)克雷格·钱伯斯(Craig Chambers)的指导下,于1996年获得计算机科学博士学位,研究方向为面向对象语言的全程序优化技术,之后加入DEC/康柏(Compaq)的西部研究实验室,从事分析工具和微处理器架构工作——在那里,他开启了与桑杰·格马瓦特(Sanjay Ghemawat)长期的工作伙伴关系,这种关系定义了此后的四分之一个世纪。
第三十号员工
迪恩于1999年中期加入谷歌,成为该公司第三十名员工,此前他曾在购物比价初创公司mySimon短暂工作,构建分布式网页抓取系统。在谷歌,他和格马瓦特到2018年成为该公司仅有的两位高级研究员(Senior Fellow)——这是公司最高的技术职级——这种组合极其高效,以至于谷歌大部分核心基础设施的设计文档中都印有他们两人的名字。他们共同领导了Protocol Buffers的最初设计,这是一种谷歌的语言和平台中立的数据序列化格式,至今仍在谷歌的系统中近乎普遍使用,并在外部被广泛采用。
MapReduce、Bigtable、Spanner
他们后续开展了最具影响力的联合工作。由迪恩和格马瓦特设计并实现的MapReduce是一种编程模型,它让普通工程师能够在数千台商用机器上处理和生成海量数据集,而无需自己成为分布式系统专家——它成为了谷歌大规模计算方式的基石,并直接启发了开源的Apache Hadoop生态系统,行业内的许多后续发展都建立在此基础上。与格马瓦特、费伊·张(Fay Chang)和迈克·伯罗斯(Mike Burrows)共同设计的Bigtable解决了并行的存储问题:这是一个半结构化系统,能够容纳跨越数十亿行、PB级的数据,同时保持低延迟的查询服务,并与MapReduce直接集成。Spanner进一步扩展了这种思路,演变为一种水平可扩展、全球分布式的数据库,能够跨大洲在数据中心之间同步复制数据,同时仍然保证强一致性——这是一个在如此规模下长期被认为几乎无法解决的问题。迪恩和格马瓦特还在2011年发布了LevelDB,这是一个借鉴了Bigtable设计原则的可嵌入键值存储,后来成为了Chrome浏览器IndexedDB以及比特币核心(Bitcoin Core)的存储后端。
转向神经网络
2011年,迪恩调入谷歌X实验室研究深度神经网络,制作了后来被称为“猫神经元论文”的研究成果——一个在YouTube视频帧上进行无监督训练的大规模深度信念网络,它独立学会了识别猫的概念。该项目成为了谷歌大脑(Google Brain)的创始工作,迪恩自2012年起领导该团队。其团队的内部训练系统DistBelief最终被重构为TensorFlow,这是迪恩参与设计并初步实现的开源机器学习框架,在PyTorch后来崛起之前,它多年来一直是深度学习研究领域的主导工具。他还参与了Pathways的工作,这是一个用于训练神经网络的异步分布式系统,被用于大语言模型PaLM的开发。2018年4月,他被任命为谷歌AI部门负责人,而在2023年谷歌大脑与DeepMind合并为Google DeepMind后,他成为了谷歌的首席科学家——据报道,他为该公司旗舰AI系统提出了“Gemini”这个名字,“因为这就像双胞胎走到了一起”。
争议伴随
迪恩的领导力并非没有受到审视。2020年12月,在谷歌因一篇探讨大语言模型风险的未发表论文解雇AI伦理研究员蒂姆尼特·格布鲁(Timnit Gebru)后,迪恩向员工发送了一份备忘录,承认该事件“浮现出关于研究文化和包容性的重大问题”;当几个月后第二位伦理研究员玛格丽特·米切尔(Margaret Mitchell)被解雇时,他在内部写道,谷歌“本可以也应该以更敏感的方式处理这种情况”。此外,迪恩是2021年一篇《自然》(Nature)论文的资深作者,该论文声称强化学习在芯片平面规划方面可以超越人类;一位公开质疑该结果的谷歌工程师被解雇并随后提起诉讼,点名迪恩。随后,独立学术研究人员发现,更简单的方法——模拟退火和标准商业设计软件——在公开基准测试上匹配或击败了该论文声称的结果,一篇经过同行评审的《美国计算机协会通讯》(Communications of the ACM)文章称该工作中存在“可疑的研究行为”。
为什么杰夫被称为天才
迪恩的天才地位在软件工程界有着异常详尽的证明,因为他构建的大量成果至今仍是数十亿人日常使用的服务的基础——搜索、地图(Maps)、翻译(Translate)、Chrome以及当前这一代大型AI模型,全都运行在他个人设计或共同设计的系统之上。“杰夫·迪恩事实”的梗虽然是民间传说,但它源于谷歌内部真实的同行证词,即他的产出和技术广度即使在精英工程师汇聚的公司中也非同寻常;他当选ACM会士、获得2012年ACM计算奖以及2021年IEEE约翰·冯·诺依曼奖章,是该领域对其判断的正式版本。客观的复杂之处在于,迪恩最近最引人注目的角色更多是管理和战略层面的,而非纯技术层面——在领导谷歌AI组织期间,包括格布鲁解雇事件和芯片设计争议在内,他的应对措施因缺乏坦诚和监管而受到真正的批评,这提醒人们,工程造诣和组织领导力并不是同一技能,也不总是以同样的严谨性来行使。
遗产
迪恩与格马瓦特的技术合作重塑了整个行业对分布式计算的思考方式,MapReduce的后继者至今仍深深植根于谷歌之外的数据基础设施中。他与妻子海蒂·霍珀一道,通过霍珀-迪恩基金会(Hopper-Dean Foundation)向包括麻省理工学院(MIT)、斯坦福大学和加州大学伯克利分校在内的多所大学的计算机科学多元化倡议捐赠了数百万美元,将其影响力从谷歌的服务器群延伸到了未来工程师的培养管道中,他们将构建起后继的一切。
