Йошуа Бенджио: совесть глубокого обучения

В ноябре 2025 года Йошуа Бенджио (Yoshua Bengio) стал первым исследователем в области искусственного интеллекта, чьи работы в Google Scholar были процитированы более миллиона раз — по некоторым оценкам, он является самым цитируемым из ныне живущих ученых в любой области. Предыдущие два года он потратил на то, чтобы предупреждать всех, кто готов слушать, что его дисциплина развивается слишком быстро, чтобы оставаться безопасной. Немногие ученые строили целую область, а затем столь публично выступали за необходимость нажать на тормоза.

Артистичная семья

Бенджио родился 5 марта 1964 года во Франции в марокканско-еврейской семье, которая позже обосновалась в Канаде. Его дом был скорее художественным, чем академическим. Его отец, Карло Бенджио (Carlo Bengio), был фармацевтом и драматургом, который руководил сефардской театральной труппой в Монреале, выступавшей на иудео-арабском языке. Его мать, Селия Морено (Célia Moreno), в 1970-х годах играла в марокканском театре, а в 1980 году стала соучредителем монреальской мультимедийной труппы «Человек-экран» (l'Écran humain). Во время военной службы отца семья провела год в Марокко. Его младший брат, Сами Бенджио (Samy Bengio), стал важным исследователем в области машинного обучения и в настоящее время является старшим директором по исследованиям ИИ и машинного обучения в Apple.

Йошуа получил все свое формальное образование в Монреале, окончив Университет Макгилла (McGill University) с тремя степенями: бакалавра в области компьютерной инженерии в 1986 году, магистра компьютерных наук в 1988 году и доктора наук в 1991 году. Затем он провел два года в качестве постдокторанта, что определило весь его дальнейший путь: в 1991–1992 годах в MIT вместе с Майклом И. Джорданом (Michael I. Jordan) и в 1992–1993 годах в лабораториях AT&T Bell Labs вместе с Яном Лекуном (Yann LeCun). Он называет Лекуна и Джеффри Хинтона (Geoffrey Hinton) своими наставниками, которые направили его внимание на фундаментальный вопрос о том, что такое интеллект. В 1993 году он вернулся в Монреальский университет (Université de Montréal) в качестве преподавателя, а в 2002 году стал профессором. Он так и не ушел оттуда.

Слова как векторы

Самая значимая техническая идея Бенджио появилась около 2000 года в ходе работы над тем, что он назвал нейронной вероятностной языковой моделью. Проблема заключалась в «проклятии размерности»: языковая модель, которая рассматривает каждое слово как отдельный атомарный символ, требует невозможного количества примеров, поскольку у нее нет способа узнать, что «кошка» (cat) и «котенок» (kitten) связаны между собой. Решением Бенджио было обучение высокоразмерному непрерывному представлению для каждого слова — вектору, — чтобы семантически похожие слова оказывались рядом друг с другом в пространстве, а информация об одном слове передавалась его соседям. Векторные представления слов (word embeddings) сейчас настолько вездесущи в обработке естественного языка, что легко забыть, что кто-то должен был их предложить.

Два более поздних вклада его лаборатории оказались не менее долговечными. В 2014 году совместно с Дмитрием Багдановым (Dzmitry Bahdanau) и Кёнхён Чо (Kyunghyun Cho) он внедрил механизм внимания (attention) в нейронный машинный перевод — механизм, позволяющий сети решать, каким частям входных данных уделять внимание при создании каждой части вывода. Путь от этой статьи к архитектуре трансформеров (transformer), лежащей в основе современных языковых моделей, короток и прям. В тот же период его аспирант Иэн Гудфеллоу (Ian Goodfellow) разработал генеративно-состязательные сети (GANs), которые обучают генератор и дискриминатор друг против друга, сделав возможным фотореалистичный синтез. Вместе с Гудфеллоу и Аароном Курвиллем (Aaron Courville) Бенджио написал учебник Глубокое обучение (Deep Learning, MIT Press, 2016), по которому училось целое поколение.

Создание Монреальской школы

Институциональная деятельность Бенджио важна почти так же, как и его научные статьи. Он основал Квебекский институт искусственного интеллекта (Mila) и до 2025 года был его научным директором, превратив Монреаль в одного из немногих реальных конкурентов Кремниевой долины и Пекина в борьбе за таланты в области глубокого обучения. Он соруководил программой «Обучение машин и мозга» Канадского института перспективных исследований (CIFAR). В октябре 2016 года он стал соучредителем коммерческого предприятия Element AI, которое было продано ServiceNow в ноябре 2020 года, а также консультировал фирмы по разработке лекарств, включая Recursion Pharmaceuticals и Valence Discovery.

В марте 2019 года Ассоциация вычислительной техники (ACM) совместно присудила премию Тьюринга (A.M. Turing Award) Бенджио, Хинтону и Лекуну «за концептуальные и инженерные прорывы, которые сделали глубокие нейронные сети критически важным компонентом вычислений». С тех пор награды не прекращаются: офицер Ордена Канады и член Королевского общества Канады в 2017 году, член Лондонского королевского общества в 2020 году, премия принцессы Астурийской за научные исследования в 2022 году, кавалер ордена Почетного легиона в 2023 году, один из 100 самых влиятельных людей по версии TIME и главный приз VinFuture в 2024 году, премия королевы Елизаветы в области инженерии в 2025 году.

Поворот

В марте 2023 года Бенджио подписал открытое письмо Института будущего жизни (Future of Life Institute) с призывом приостановить на шесть месяцев обучение систем, более мощных, чем GPT-4. В мае он сказал BBC, что чувствует себя «потерянным» относительно дела всей своей жизни, будучи встревожен тем, что могут сделать с этим злоумышленники. В июле он написал в журнале The Economist, что «риск катастрофы достаточно реален, чтобы действовать прямо сейчас». Он подписал письмо в поддержку законопроекта SB 1047 штата Калифорния, назвав его минимумом для эффективного регулирования.

Наиболее существенное выражение этого поворота — институциональное. После саммита по безопасности ИИ в Блетчли-парке в ноябре 2023 года Риши Сунак (Rishi Sunak) объявил о подготовке Международного отчета по безопасности ИИ, и Бенджио был назначен его председателем. Промежуточная версия появилась на саммите в Сеуле в мае 2024 года; полный отчет был опубликован в январе 2025 года, охватывая риски кибератак и сценарии потери контроля в строгом стиле оценок МГЭИК (IPCC). В июне 2025 года он запустил LawZero — некоммерческую организацию, разрабатывающую то, что он называет честным ИИ, чей флагманский проект — «Ученый ИИ» (Scientist AI) — предназначен для прогнозирования того, может ли предложенное автономным агентом действие причинить вред. Финансирование поступает от Института будущего жизни, Schmidt Sciences, Фонда Гейтса и правительства Канады. К концу 2025 года он доказывал, что предоставление правового статуса системам ИИ было бы «огромной ошибкой», основываясь на том, что возможность отключить систему является фундаментом любой другой меры безопасности.

Почему Йошуа называют гением

Это слово привязалось к Бенджио по конкретной причине: повторяющаяся способность видеть абстракцию за практической задачей, а затем находить для нее математическое решение. Векторные представления слов — самый яркий пример: трудность, с которой столкнулось языковое моделирование, поначалу выглядела как проблема нехватки данных, и он переформулировал её как проблему представления. ACM в своих материалах к премии Тьюринга описывает его как следующего своей «научной интуиции» — это вежливый технический термин для правильных ставок на то, какое направление стоит того, чтобы посвятить ему годы работы. Статистика цитирований подтверждает это влияние: самый высокий индекс Хирша среди компьютерщиков, первый исследователь ИИ с миллионом цитирований.

Честный контраргумент заключается в том, что самые известные результаты Бенджио являются коллективными и часто возглавлялись студентами. Внимание в нейронном машинном переводе — это статья Багданова, где Бенджио был старшим автором; генеративно-состязательные сети были идеей Гудфеллоу; современные трансформеры пришли из Google, а не из Монреаля. Количество цитирований измеряет рост области не меньше, чем гениальность одного человека, а глубокое обучение росло взрывообразно по причинам — дешевые GPU, огромные наборы данных — которые не контролировал ни один исследователь. Что действительно необычно и трудно оспорить, так это сочетание: ученый, находящийся в самом центре взлета технологии, а затем построивший институциональный механизм для ее проверки, что стоило ему реальной репутации среди бывших коллег.

Наследие

След Бенджио в компьютерных науках теперь постоянен, он встроен в каждую систему, которая превращает слова в векторы, и в каждую модель, которая учится тому, куда смотреть. Его второй акт может оказаться более интересным. Он пытается сделать то, что ученым редко удается: оставаться ведущим техническим авторитетом в области технологии, одновременно будучи её самым серьезным критиком, и сделать осторожность исследовательской программой, а не просто пресс-релизом.