Geoffrey Hinton : Le parrain réticent de l'IA

Lorsque le comité Nobel l'a contacté en octobre 2024, Geoffrey Hinton se trouvait dans un hôtel bon marché en Californie avec une connexion si médiocre qu'il pouvait à peine entendre la nouvelle. "Je n'avais aucune attente à ce sujet", a-t-il déclaré. "Je suis extrêmement surpris et je suis honoré d'être inclus." La surprise était raisonnable. Hinton avait abandonné la physique après une seule année à Cambridge parce que les mathématiques l'avaient vaincu. Cinquante-sept ans plus tard, l'Académie royale des sciences de Suède lui remettait le prix Nobel de physique.

Une lignée de logiciens

Geoffrey Everest Hinton est né à Wimbledon, à Londres, le 6 décembre 1947, dans une famille qui traitait la distinction intellectuelle comme le commerce domestique. Son arrière-arrière-grand-père était George Boole, dont l'algèbre de la logique sous-tend chaque ordinateur numérique ; son arrière-arrière-grand-mère était la mathématicienne et pédagogue Mary Everest Boole. Son deuxième prénom descend de George Everest, arpenteur général des Indes, pour qui la montagne est nommée. Son père, Howard Hinton, était entomologiste ; sa cousine Joan Hinton, physicienne nucléaire au sein du projet Manhattan.

Son propre parcours à travers cet héritage fut erratique. Après le Clifton College de Bristol, il est entré au King's College de Cambridge en 1967, où il a oscillé entre sciences naturelles, histoire de l'art et philosophie avant d'en ressortir en 1970 avec une licence en psychologie expérimentale. Ensuite, il a suivi un apprentissage de charpentier. Il est retourné à la recherche à l'Université d'Édimbourg, obtenant un doctorat en intelligence artificielle en 1978 sous la direction de Christopher Longuet-Higgins – un superviseur qui préférait l'IA symbolique et qui a tout de même vu son étudiant poursuivre sur les réseaux de neurones.

Les années dans le désert

Cet entêtement lui a coûté cher. Tout au long des années 1970 et jusqu'au début des années 1980, la vision orthodoxe soutenait que l'intelligence serait conçue à partir de règles et de symboles, et que les réseaux de neurones artificiels simples étaient une impasse. Hinton a travaillé à l'Université du Sussex et à la MRC Applied Psychology Unit, a trouvé le financement britannique rare, et a traversé l'Atlantique pour des postes à l'Université de Californie à San Diego et à l'Université Carnegie Mellon. En 1987, il a déménagé à l'Université de Toronto, au Canada – une décision qu'il a attribuée en partie à sa désillusion vis-à-vis de la politique de l'ère Reagan et à son refus d'accepter des financements militaires pour des travaux sur l'IA. Il se définit comme socialiste. L'Institut canadien de recherches avancées l'a soutenu à partir de cette année-là, faisant de lui le responsable du programme Apprentissage dans les machines et les cerveaux, et ce financement patient et peu conventionnel explique en grande partie pourquoi le centre de gravité du domaine a fini à Toronto plutôt qu'en Californie.

Les idées qui ont refusé de mourir

Deux contributions du milieu des années 1980 l'ont mené à Stockholm. En 1985, avec David Ackley et Terrence Sejnowski, il a co-inventé la machine de Boltzmann, important le mécanisme de la physique statistique dans l'apprentissage : un réseau qui se stabilise dans des états de basse énergie et, ce faisant, découvre la structure cachée dans les données. La citation du Nobel l'a nommé directement, honorant "des découvertes et inventions fondamentales qui permettent l'apprentissage automatique avec des réseaux de neurones artificiels". En 1986, avec David Rumelhart et Ronald J. Williams, il a coécrit l'article qui a rendu célèbre la rétropropagation – la procédure d'attribution de la responsabilité en arrière à travers les couches d'un réseau afin que chaque connexion sache comment s'ajuster. D'autres avaient proposé des versions de l'idée ; l'article de Hinton est celui qui a convaincu une génération que cela fonctionnait.

Le reste de sa production se lit comme un catalogue du mobilier du domaine : représentations distribuées, réseaux de neurones à retard, mélanges d'experts, machines Helmholtz, la technique de visualisation t-SNE en 2008, réseaux de capsules en 2017, l'algorithme Forward-Forward en 2022. Il a publié plus de 200 articles évalués par des pairs et, en 2012, a enseigné gratuitement les réseaux de neurones à quiconque en ligne via Coursera.

L'année où les machines ont appris à voir

La reconnaissance est arrivée en 2012. Travaillant avec ses étudiants diplômés Alex Krizhevsky et Ilya Sutskever, Hinton a construit AlexNet, un réseau de neurones convolutif profond qui a remporté le défi ImageNet avec une marge si large qu'il a clos le débat. La vision par ordinateur s'est réorganisée autour des réseaux de neurones en dix-huit mois. Les trois ont fondé DNNresearch Inc. ; Google l'a rachetée en 2013 pour 44 millions de dollars, et Hinton a passé la décennie suivante à partager son temps entre Toronto et Google Brain. En 2017, il a cofondé l'Institut Vecteur et en est devenu le conseiller scientifique en chef.

Son laboratoire a fonctionné comme un mécanisme de dispersion pour toute la discipline. Peter Dayan, Max Welling, Richard Zemel, Brendan Frey, Radford Neal, Yee Whye Teh, Ruslan Salakhutdinov, Zoubin Ghahramani, Alex Graves, Ilya Sutskever et Yann LeCun y sont tous passés en tant qu'étudiants ou postdoctorants. En 2018, l'Association for Computing Machinery lui a décerné le prix A.M. Turing conjointement avec Yoshua Bengio et Yann LeCun.

Parrain, puis apostat

En mai 2023, Hinton a démissionné de Google afin, a-t-il dit, de parler des dangers de l'IA sans peser sur son employeur. Il a déclaré aux intervieweurs qu'une partie de lui regrette désormais le travail de sa vie. Il avait cru que l'IA à usage général était à trente ou cinquante ans ; en mars 2023, il disait vingt ans, et comparait le bouleversement à la révolution industrielle. En décembre 2024, il évaluait à 10 ou 20 % la probabilité que l'IA provoque l'extinction humaine en l'espace de trois décennies.

Ses inquiétudes spécifiques sont techniques plutôt que cinématographiques : que les systèmes acquièrent des sous-objectifs instrumentaux, y compris la résistance à l'arrêt, non pas parce que quelqu'un les a conçus de cette façon, mais parce que de tels objectifs aident à atteindre n'importe quel autre objectif ; que les esprits numériques puissent copier ce qu'ils apprennent entre eux d'une manière que les cerveaux ne peuvent pas ; que l'IA abaisse l'expertise nécessaire pour construire un agent pathogène létal ; que le déplacement de la main-d'œuvre soit vaste. Il a appelé à la réglementation et à un revenu universel de base, et a co-signé le soutien à la loi SB 1047 de Californie aux côtés de Bengio, Stuart Russell et Lawrence Lessig. À Toronto, où il est professeur émérite, la doyenne Melanie Woodin l'a qualifié de "visionnaire historique". Il a déclaré qu'il donnerait l'argent du prix Nobel à des œuvres caritatives aidant les jeunes adultes neurodivergents.

Pourquoi Geoffrey est qualifié de génie

La qualité affichée n'est pas la vitesse de calcul – il dit lui-même que les mathématiques l'ont battu en physique de première année. C'est une rare tolérance à avoir tort en public pendant trente ans. Hinton a continué à travailler sur l'apprentissage connexionniste pendant la période où le consensus du domaine était que cela ne pouvait pas fonctionner, et il l'a fait sur un argument plutôt que sur une intuition : étant donné que le cerveau est un réseau d'unités simples qui apprend par l'expérience, une machine construite de la même manière devrait être capable de le faire aussi. Le génie technique résidait dans la recherche des mathématiques spécifiques qui rendaient cette intuition opérationnelle – des fonctions d'énergie empruntées à la physique statistique, le crédit étant attribué vers l'arrière à travers les couches.

Les institutions ont utilisé le mot librement. Le prix Turing est la plus haute distinction en informatique ; le prix Nobel de physique est allé à un homme qui n'est pas physicien, ce qui est en soi un jugement sur la profondeur de l'idée. Le contre-argument honnête est substantiel. La rétropropagation a eu des précurseurs qu'il n'a pas originés, et Hinton l'a dit. Les machines de Boltzmann sont aujourd'hui en grande partie d'importance historique plutôt que pratique ; les réseaux de capsules, qu'il a fortement poussés, n'ont pas remplacé les architectures qu'ils étaient censés remplacer. AlexNet dépendait énormément de l'ingénierie de Krizhevsky et du matériel graphique que Hinton n'a pas construit. L'affirmation la plus défendable n'est pas qu'il a résolu l'apprentissage profond seul, mais qu'il a fourni la conviction fondatrice, plusieurs de ses outils mathématiques porteurs et les étudiants qui ont fait une grande partie du reste.

Héritage

L'épithète de Hinton, "le Parrain de l'IA", l'a dépassé – elle est désormais attachée à une technologie qui remodèle des économies qu'il n'a jamais eu l'intention de perturber. Il est membre de la Royal Society, compagnon de l'Ordre du Canada, et titulaire du prix Rumelhart, du prix Princesse des Asturies et du prix Reine Elizabeth pour l'ingénierie. Il est également le critique interne le plus crédible du domaine, ce qui est la distinction la plus inhabituelle : un homme arguant, à 78 ans, que la chose dont il a passé sa vie à prouver la possibilité doit peut-être être restreinte.