Jürgen Schmidhuber

Jürgen Schmidhuber, né en 1963 à Munich, est une figure centrale de l'évolution de l'intelligence artificielle et des réseaux de neurones. Sa carrière de chercheur, s'étendant sur des décennies de nominations académiques et institutionnelles, se concentre sur les architectures d'apprentissage profond qui sous-tendent de nombreuses tâches informatiques contemporaines. Ses contributions relient les premiers développements théoriques sur les structures récursives et l'apprentissage auto-supervisé aux applications modernes généralisées.

Fondations académiques et leadership en recherche

Schmidhuber a terminé ses études de premier cycle et son doctorat à l'Université technique de Munich en 1991, sous la direction de Wilfried Brauer et Klaus Schulten. Sa carrière comprend des postes d'enseignement à l'Université technique de Munich et à l'Università della Svizzera italiana. Depuis 1995, il dirige l'Institut Dalle Molle de recherche sur l'intelligence artificielle en Suisse. En 2021, il a rejoint l'Université des sciences et technologies du roi Abdallah en Arabie saoudite, où il dirige l'initiative IA au sein de la division des sciences et de l'ingénierie informatiques, électriques et mathématiques.

Architectures récurrentes et mémoire à long terme

Dans les années 1990, Schmidhuber a abordé les limites de la rétropropagation dans l'apprentissage profond. Suite à la thèse de diplôme de 1991 de son étudiant Sepp Hochreiter, qui analysait le problème de la disparition du gradient, Schmidhuber a facilité le développement de la mémoire à long terme (LSTM). Introduite dans un rapport technique en 1995 et publiée en 1997, la LSTM est devenue une technique dominante pour le traitement du langage naturel. Les améliorations ultérieures comprenaient l'architecture standard en 2000 avec Felix Gers et Fred Cummins, et la classification temporelle connexionniste avec Alex Graves en 2006.

Innovations dans les réseaux de neurones

Au-delà de la LSTM, Schmidhuber a exploré divers concepts de réseaux de neurones. En 1991, il a introduit les réseaux de neurones antagonistes, appelés curiosité artificielle, où des réseaux concurrents interagissent via un jeu à somme nulle. Ce cadre informe les réseaux antagonistes génératifs modernes. En 1992, il a publié le programmeur de poids rapides, un précurseur du transformateur linéaire non normalisé. De plus, en 2011, son équipe à l'IDSIA a démontré des améliorations de vitesse significatives pour les réseaux de neurones convolutifs en utilisant des unités de traitement graphique, atteignant des performances surhumaines dans les concours de vision par ordinateur.

Entreprises commerciales et reconnaissance professionnelle

En 2014, Schmidhuber a fondé NNAISENSE pour explorer les applications commerciales de l'IA dans des secteurs tels que la finance et l'industrie lourde. Bien qu'initialement axée sur l'intelligence artificielle générale, l'entreprise a par la suite mis l'accent sur la gestion d'actifs. Ses contributions au domaine ont reçu une reconnaissance officielle, notamment le prix IEEE Neural Networks Pioneer en 2016. Il est membre de l'Académie européenne des sciences et des arts et du Laboratoire européen pour l'apprentissage et les systèmes intelligents.

Faits en bref

- Né : 1963, Munich, Allemagne - Éducation : Université technique de Munich (Doctorat 1991) - Développement clé : Mémoire à long terme (LSTM) - Focus industriel : Applications IA via NNAISENSE - Poste actuel : Directeur, Initiative IA à KAUST - Prix notable : Prix IEEE Neural Networks Pioneer (2016)

Questions posées par les lecteurs

### Quelle est l'importance du programmeur de poids rapides ?

Publié par Schmidhuber en 1992, le programmeur de poids rapides est une alternative aux réseaux de neurones récurrents qui a été identifiée plus tard comme équivalente au transformateur linéaire non normalisé moderne.

### Quel est l'objectif principal de l'entreprise NNAISENSE ?

Fondée en 2014, NNAISENSE ciblait initialement les applications commerciales de l'IA dans des domaines tels que la finance et les voitures autonomes, avant de pivoter vers la gestion d'actifs.