ジェフ・ディーン：あらゆる人の検索バーを支えるインフラストラクチャ

チャック・ノリスの伝説に倣った、あるGoogleエンジニアをテーマにしたインターネット上のジョークのジャンルが存在します。ジェフ・ディーンのコードにはバグはなく、機能しかない。2002年にインデックスサーバーがダウンした際、ジェフ・ディーンが2時間にわたって手作業でユーザーの検索クエリに応答し、評価スコアが5ポイント上昇したと言われています。このジョークが成立するのは、その根底にある主張――Googleを動かすインフラストラクチャの大部分、ひいては現代のインターネットの大部分が、たった一人のエンジニアの手を通過したという主張――が、決して誇張ではないからです。

ハワイからツインシティーズへ

ジェフリー・アゲート・ディーン (Jeffrey Adgate Dean) は1968年7月23日、ハワイで生まれました。父親は熱帯病の研究者、母親は医療人類学者で、その仕事のために家族は頻繁に転居を繰り返しました。彼はミネソタ州のツインシティーズの学校で、小学5年生から中学2年生までを過ごしました。1990年にミネソタ大学でコンピュータ科学と経済学の二重専攻で理学士号 (B.S.) を最優等 (summa cum laude) で取得。卒業論文はヴィピン・クマール (Vipin Kumar) 教授の指導の下、C言語によるニューラルネットワークに関するものでした。これは、後に彼が大規模な構築に生涯を捧げることになる技術との、驚くほど早い出会いでした。大学1年次に将来の妻となるハイディ・ホッパー (Heidi Hopper) と出会い、二人とも1990年に卒業しました。大学院進学前には、世界保健機関 (WHO) の世界エイズプログラムで働き、HIV/エイズパンデミックの拡大を予測する統計モデリングソフトウェアを開発しました。これは単なる学術的な迂回ではなく、応用的な重要性を持つソフトウェア開発でした。その後、1996年にワシントン大学でクレイグ・チェンバース (Craig Chambers) の指導の下、オブジェクト指向言語のためのプログラム全体最適化技術に関する研究でコンピュータ科学の博士号 (Ph.D.) を取得。DEC/CompaqのWestern Research Laboratoryに入社し、プロファイリングツールとマイクロプロセッサアーキテクチャの研究に携わりました。そこで彼は、サンジェイ・ゲマワット (Sanjay Ghemawat) との長期にわたる共同研究のパートナーシップを開始し、それがその後の四半世紀を決定づけることになります。

30番目の従業員

ディーンは1999年半ば、Googleの30番目の従業員として入社しました。それ以前は、ショッピング比較スタートアップのmySimonで分散型Webクローリングシステムの開発に短期間携わっていました。Googleでは、彼とゲマワットは2018年までに同社で唯一のシニアフェロー（技術職の最高位）となりました。二人の組み合わせは非常に生産的であり、Googleの中核インフラストラクチャの大部分の設計書には、二人の名前が刻まれています。二人は共に、Googleの言語およびプラットフォーム中立なデータシリアライズフォーマットである「Protocol Buffers」の初期設計を主導しました。これは現在もGoogleのシステム全体でほぼ普遍的に使用されており、社外でも広く採用されています。

MapReduce、Bigtable、Spanner

彼らの最も重要な共同研究は次に続きました。ディーンとゲマワットが設計・実装した「MapReduce」は、一般的なエンジニアが分散システムのエキスパートになる必要なく、何千台もの汎用マシンにわたって膨大なデータセットを処理・生成できるようにするプログラミングモデルです。これはGoogleの大規模計算の基盤となり、業界の残りの部分が後に構築したオープンソースの「Apache Hadoop」エコシステムを直接的に刺激しました。ゲマワット、フェイ・チャン (Fay Chang)、マイク・バローズ (Mike Burrows) と共同設計した「Bigtable」は、並列ストレージの問題を解決しました。これは、ペタバイト規模のデータを数十億行にわたって保持しながら、低遅延でクエリに応答できる半構造化システムで、MapReduceと直接統合されました。「Spanner」はその考え方をさらに拡張し、異なる大陸のデータセンター間でデータを同期的にレプリケートしつつ、強整合性を保証できる、水平方向にスケーラブルなグローバル分散データベースを実現しました。これは、長らくその規模では解決不可能に近いと考えられていた問題でした。ディーンとゲマワットは2011年に、Bigtableの設計原則に基づく埋め込み型キーバリューストア「LevelDB」もリリースしました。これはChromeのIndexedDBや、特筆すべきことにBitcoin Coreのストレージバックエンドとなりました。

ニューラルネットワークへの転換

2011年、ディーンはGoogle Xラボに移り、ディープニューラルネットワークの研究を開始しました。そこで彼は、「猫のニューロン論文」として知られることになる研究成果を発表しました。これはYouTubeビデオのフレームを使用して教師なしで学習された大規模なディープビリーフネットワークで、猫の概念を自律的に学習・認識するものでした。このプロジェクトは、2012年からディーンが率いたGoogle Brainの創設研究となりました。彼のチームの内部トレーニングシステム「DistBelief」は、後にTensorFlowにリファクタリングされました。これは、ディーンが設計と初期実装を支援したオープンソースの機械学習フレームワークで、PyTorchが後に台頭するまで、長年にわたってディープラーニング研究における支配的なツールとなりました。また、大規模言語モデルPaLMの開発に使用された、ニューラルネットワーク学習用の非同期分散システム「Pathways」にも携わりました。2018年4月、GoogleのAI部門の責任者に任命されました。2023年にGoogle BrainがDeepMindと統合してGoogle DeepMindとなった後、彼はGoogleのチーフサイエンティストに就任しました。伝えられるところによれば、彼は同社の主力AIシステムの名称として「Gemini」を提案しました。「双子が合わさるようなものだから」という理由でした。

議論と無縁ではない

ディーンのリーダーシップは、精査から無縁ではありませんでした。2020年12月、Googleが大規模言語モデルのリスクを調査した未発表の論文を理由にAI倫理研究者のティニット・ゲブル (Timnit Gebru) を解雇した後、ディーンはスタッフにメモを送り、このエピソードが研究文化と包摂性に関する「大きく重要な問題を表面化させた」と認めました。数ヶ月後に2人目の倫理研究者マーガレット・ミッチェル (Margaret Mitchell) が解雇された際、彼は社内で「Googleはもっと慎重にこの状況を処理できたし、すべきだった」と記しました。また別件として、ディーンは2021年の Nature 誌の論文の筆頭著者の一人でした。その論文では、強化学習がチップ配置設計において人間を凌駕できると主張していました。この結果を公に疑ったGoogleのエンジニアが解雇され、後にディーンを指名して提訴しました。その後、独立した学術研究者たちが、より単純な手法（シミュレーテッドアニーリングおよび標準的な商用設計ソフトウェア）でも、公開ベンチマークにおいて同論文が主張する結果に匹敵、あるいはそれを上回ることを発見しました。Communications of the ACM に掲載された査読付き論文では、その研究における「疑わしい研究慣行」が指摘されています。

なぜジェフは天才と呼ばれるのか

ディーンが天才であるという主張は、ソフトウェアエンジニアリングの基準から見ても異例なほど十分に裏付けられています。なぜなら、彼が構築したものの多くが、検索、Maps、Translate、Chrome、そして現在の生成AIモデルといった、何十億人もの人々が毎日使用するサービスを直接支えているからです。「ジェフ・ディーンの事実」というミームはフォークロアですが、それはGoogle内部の同僚たちの純粋な証言から生まれたもので、エリートエンジニアが揃う同社の中でさえ、彼の生産性と技術的範囲は並外れていました。ACMフェローへの選出、2012年のACMコンピューティング賞、2021年のIEEEジョン・フォン・ノイマン・メダルは、この分野における同じ評価の正式なバージョンです。正直な難しさは、ディーンの近年の最も目立つ役割が、純粋に技術的なものというよりも管理および戦略的なものになっていたことです。ゲブルの解雇やチップ設計論争など、彼の対応が率直さと監督の欠如で厳しい批判を浴びた期間において、彼はGoogleのAI組織を率いていました。これは、エンジニアリングの輝きと組織のリーダーシップが同じ能力ではなく、必ずしも同等の厳格さで行使されるわけではないことを思い出させます。

遺産

ディーンとゲマワットの技術的なパートナーシップは、業界全体が分散コンピューティングをどのように考えるかという概念を書き換えました。MapReduceの継承者たちは、Googleを超えてデータインフラストラクチャに深く埋め込まれたままです。妻のハイディ・ホッパーと共に、彼はHopper-Dean Foundationを通じて、MIT、スタンフォード、バークレーなどの大学におけるコンピュータ科学の多様性イニシアチブに数百万ドルを拠出し、Googleのサーバーファームから、彼らの後に続くものを構築するエンジニアのパイプラインへと自身の影響力を広げています。