Yoshua Bengio: Das Gewissen des Deep Learning

Im November 2025 wurde Yoshua Bengio der erste Forscher im Bereich der künstlichen Intelligenz, der die Marke von einer Million Zitierungen bei Google Scholar überschritt – nach einigen Maßstäben ist er damit der meistzitierte lebende Wissenschaftler in jedem Fachbereich. Er hatte die zwei Jahre zuvor damit verbracht, jedem, der zuhören wollte, zu sagen, dass sich seine Disziplin zu schnell entwickle, um sicher zu sein. Nur wenige Wissenschaftler haben ein Fachgebiet aufgebaut und sich dann so öffentlich dafür eingesetzt, es zu bremsen.

Ein theatralisches Zuhause

Bengio wurde am 5. März 1964 in Frankreich in eine marokkanisch-jüdische Familie hineingeboren, die sich später in Kanada niederließ. Es war kein akademischer Haushalt, sondern eher ein künstlerischer. Sein Vater, Carlo Bengio, war Apotheker und Dramatiker, der eine sephardische Theatergruppe in Montreal leitete, die in Judäo-Arabisch spielte. Seine Mutter, Célia Moreno, hatte in den 1970er Jahren im marokkanischen Theater gespielt und war 1980 Mitbegründerin der Multimedia-Truppe l'Écran humain in Montreal. Die Familie verbrachte während des Militärdienstes seines Vaters ein Jahr in Marokko. Sein jüngerer Bruder, Samy Bengio, wurde selbst ein bedeutender Forscher im Bereich des maschinellen Lernens und ist heute leitender Direktor für KI- und Machine-Learning-Forschung bei Apple.

Yoshua blieb während seiner gesamten akademischen Ausbildung in Montreal und erwarb drei Abschlüsse an der McGill University: einen Bachelor in Computertechnik 1986, einen Master in Informatik 1988 und einen Doktortitel 1991. Danach absolvierte er zwei Postdoc-Jahre, die alles Weitere prägen sollten – 1991-92 am MIT bei Michael I. Jordan und 1992-93 bei den AT&T Bell Labs an der Seite von Yann LeCun. Er bezeichnete LeCun und Geoffrey Hinton als die Mentoren, die sein Interesse auf die grundlegende Frage lenkten, was Intelligenz eigentlich ist. 1993 kehrte er als Fakultätsmitglied an die Université de Montréal zurück und wurde 2002 ordentlicher Professor. Er hat die Universität nie verlassen.

Wörter als Vektoren

Bengios folgenreichste technische Idee entstand um das Jahr 2000 herum im Rahmen der Arbeit an einem sogenannten neuronalen probabilistischen Sprachmodell. Das Problem war der Fluch der Dimensionalität: Ein Sprachmodell, das jedes Wort als ein eigenständiges atomares Symbol behandelt, benötigt eine unmögliche Anzahl an Beispielen, da es nicht wissen kann, dass „Katze“ und „Kätzchen“ miteinander verwandt sind. Bengios Antwort bestand darin, für jedes Wort eine hochdimensionale kontinuierliche Repräsentation zu erlernen – einen Vektor –, sodass semantisch ähnliche Wörter im Raum nahe beieinander liegen und Erkenntnisse über ein Wort auf seine Nachbarn übertragen werden können. Word Embeddings sind heute in der natürlichen Sprachverarbeitung so allgegenwärtig, dass man leicht vergisst, dass sie erst jemand vorschlagen musste.

Zwei spätere Beiträge aus seinem Labor erwiesen sich als ebenso dauerhaft. Im Jahr 2014 führte er zusammen mit Dzmitry Bahdanau und Kyunghyun Cho die Attention-Mechanismen in die neuronale maschinelle Übersetzung ein – ein Verfahren, das es einem Netzwerk ermöglicht, zu entscheiden, welche Teile einer Eingabe bei der Erzeugung eines Ausgabeteils zu gewichten sind. Der Weg von diesem Aufsatz zur Transformer-Architektur hinter modernen Sprachmodellen ist kurz und direkt. Im gleichen Zeitraum entwickelte sein Doktorand Ian Goodfellow generative adversarielle Netzwerke (GANs), die einen Generator und einen Diskriminator gegeneinander trainieren und fotorealistische Synthesen ermöglichten. Zusammen mit Goodfellow und Aaron Courville schrieb Bengio das Lehrbuch Deep Learning (MIT Press, 2016), das eine ganze Generation ausbildete.

Aufbau der Schule von Montreal

Bengios Aufbau institutioneller Strukturen wiegt fast so schwer wie seine Veröffentlichungen. Er gründete Mila, das Quebec Artificial Intelligence Institute, und fungierte bis 2025 als dessen wissenschaftlicher Direktor, wodurch er Montreal zu einem der wenigen echten Konkurrenten für das Silicon Valley und Peking im Bereich der Deep-Learning-Talente machte. Er war Mitdirektor des Programms „Learning in Machines and Brains“ des Canadian Institute for Advanced Research. Im Oktober 2016 war er Mitbegründer des kommerziellen Unternehmens Element AI, das im November 2020 an ServiceNow verkauft wurde, und beriet Pharmaunternehmen bei der Wirkstoffentdeckung, darunter Recursion Pharmaceuticals und Valence Discovery.

Im März 2019 verlieh die Association for Computing Machinery den A.M. Turing Award gemeinsam an Bengio, Hinton und LeCun „für konzeptionelle und technische Durchbrüche, die tiefe neuronale Netze zu einer kritischen Komponente der Informatik gemacht haben“. Seitdem rissen die Auszeichnungen nicht ab: Officer des Order of Canada und Fellow der Royal Society of Canada im Jahr 2017, Fellow der Royal Society im Jahr 2020, Prinzessin-von-Asturien-Preis für wissenschaftliche Forschung im Jahr 2022, Ritter der Ehrenlegion im Jahr 2023, einer der 100 einflussreichsten Menschen der TIME und der VinFuture Grand Prize im Jahr 2024, der Queen Elizabeth Prize for Engineering im Jahr 2025.

Die Wende

Im März 2023 unterzeichnete Bengio den offenen Brief des Future of Life Institute, der eine sechsmonatige Pause beim Training von Systemen forderte, die leistungsfähiger als GPT-4 sind. Im Mai sagte er der BBC, er fühle sich bezüglich seines Lebenswerks „verloren“, beunruhigt darüber, was böswillige Akteure damit anstellen könnten. Im Juli schrieb er in The Economist, dass „das Risiko einer Katastrophe real genug ist, dass jetzt gehandelt werden muss“. Er unterzeichnete einen Brief zur Unterstützung des kalifornischen Gesetzes SB 1047 und bezeichnete es als das absolute Minimum für eine wirksame Regulierung.

Der wichtigste Ausdruck dieser Wende ist institutioneller Natur. Nach dem AI Safety Summit im November 2023 in Bletchley Park kündigte Rishi Sunak einen internationalen Bericht zur KI-Sicherheit an, und Bengio wurde zu dessen Vorsitzendem ernannt. Eine vorläufige Version erschien auf dem Gipfel in Seoul im Mai 2024; der vollständige Bericht wurde im Januar 2025 veröffentlicht und behandelt Cyberangriffsrisiken und Kontrollverlustszenarien in der nüchternen Sprache eines IPCC-Berichts. Im Juni 2025 startete er LawZero, eine gemeinnützige Organisation, die eine sogenannte ehrliche KI entwickelt. Deren Vorzeigeprojekt – Scientist AI – soll vorhersagen, ob eine vorgeschlagene Aktion eines autonomen Agenten Schaden anrichten könnte. Zu den Geldgebern gehören das Future of Life Institute, Schmidt Sciences, die Gates Foundation und die kanadische Regierung. Ende 2025 argumentierte er, dass die Gewährung von gesetzlichen Rechten an KI-Systeme ein „riesiger Fehler“ wäre, da die Fähigkeit, ein System abzuschalten, das Fundament jeder anderen Schutzmaßnahme sei.

Warum Yoshua als Genie bezeichnet wird

Das Wort haftet Bengio aus einem bestimmten Grund an: die wiederholte Fähigkeit, die Abstraktion hinter einem praktischen Problem zu erkennen und dann die Mathematik dafür zu finden. Word Embeddings sind der deutlichste Fall – die Schwierigkeit der Sprachmodellierung sah nach einem Problem der Datenknappheit aus, und er formulierte es als ein Problem der Repräsentation um. Die ACM beschreibt ihn in ihren Materialien zur Turing-Nominierung als jemanden, der seiner „wissenschaftlichen Intuition“ folgt, was der höfliche technische Begriff dafür ist, richtig zu erraten, welche Richtung jahrelange Arbeit wert ist. Die Zitationsdaten stützen den Anspruch bezüglich seiner Wirkung: der höchste h-Index in der Disziplin unter Informatikern, der erste KI-Forscher mit einer Million Zitierungen.

Das ehrliche Gegenargument ist, dass Bengios berühmteste Ergebnisse gemeinschaftlich und oft von Studenten geleitet sind. „Attention“ in der neuronalen maschinellen Übersetzung ist Bahdanaus Arbeit, wobei Bengio als Senior-Autor fungierte; generative adversarielle Netzwerke waren Goodfellows Idee; der moderne Transformer stammte von Google, nicht aus Montreal. Zitationszahlen messen das Wachstum eines Fachgebiets ebenso sehr wie die Brillanz einer Person, und Deep Learning wuchs aus Gründen explosiv – billige GPUs, riesige Datensätze –, die kein Forscher kontrollierte. Was wirklich ungewöhnlich und schwerer zu bestreiten ist, ist die Kombination: ein Wissenschaftler, der absolut im Zentrum des Aufstiegs einer Technologie steht und dann die institutionelle Maschinerie aufbaute, um sie zu prüfen, auf Kosten seines eigenen Ansehens bei ehemaligen Kollegen.

Vermächtnis

Bengios Spuren in der Informatik sind nun permanent, eingebettet in jedes System, das Wörter in Vektoren verwandelt, und in jedes Modell, das lernt, wohin es schauen muss. Sein zweiter Akt könnte sich als der interessantere erweisen. Er versucht etwas, das Wissenschaftlern selten gelingt: die führende technische Autorität für eine Technologie zu bleiben, während er gleichzeitig deren kritischster Beobachter ist, und Vorsicht zu einem Forschungsprogramm statt zu einer Pressemitteilung zu machen.