Lorsque Geoffrey Hinton, âgé de 78 ans, s'est assis devant la caméra et a prononcé ces mots devant des centaines de participants, toute la salle est restée silencieuse pendant quelques secondes.
“ Ils veulent une voiture ultra-rapide sans volant. ”
Récemment, ce lauréat du prix Nobel de physique 2024 — une personnalité d’un certain âge que l’on surnomme depuis plus d’une décennie le “ parrain de l’IA ” — a une nouvelle fois tiré la sonnette d’alarme pour l’humanité lors de la Global Digital World Conference. Sur un ton presque suppliant, Hinton a lancé cet avertissement :
“ Nous ne savons pas si les humains peuvent coexister avec une IA superintelligente. ”
“ Mais nous sommes en train de le construire. ”
Hinton à propos de l'IA générale : seulement 1% sur la sécurité, 99% sur l'accélération
Dans son discours, Hinton a présenté un raisonnement très clair.
Le secteur mondial de l'IA connaît une expansion d'une rapidité sans précédent dans l'histoire de l'humanité. Selon les données de la CNUCED, le marché mondial de l'IA était évalué à $189 milliards en 2023 et devrait exploser pour atteindre $4,8 billions d'ici 2033.
Cela signifie qu’en seulement dix ans, l’humanité a créé, à partir de rien, une entité économique dont la taille dépasse celle du PIB du Japon.
Et où va tout cet argent ?
Se lancer dans la construction de modèles plus volumineux et dans l'exécution de calculs plus intensifs.
Qu'en est-il de la sécurité ?
Hinton a donné un chiffre : environ 1%.
Seuls environ 1% des investissements mondiaux en R&D dans le domaine de l'IA sont consacrés à la question de savoir “ comment s'assurer que cela ne tourne pas mal ”.”
Son commentaire à ce sujet :
“ C'est dingue. ”
Selon lui, les groupes de pression du secteur de l'IA dépensent des sommes considérables en publicité pour mettre en avant une analogie : l'IA serait l'accélérateur, et la réglementation le frein. Leur message : « Ne freinez pas, cela nous ralentirait. ».
Hinton a catégoriquement rejeté cette idée.
“ L’accélérateur, c’est le progrès, bien sûr. Mais la réglementation n’est pas le frein : c’est le volant. ”
“ Ils veulent une voiture ultra-rapide, mais sans volant. ”
Assis à côté de lui, Terry Sejnowski a immédiatement ajouté :
“ Avez-vous déjà conduit une voiture sans freins ? Vous saurez à quel point c'est dangereux dans une descente. ”
Mais le pire, c'est qu'on n'a même pas de volant.
Pédale d'accélérateur enfoncée à fond. Volant démonté.
Voilà à quoi ressemble réellement la course mondiale à l'IA.
De la cérémonie de remise des prix à l'évaluation de l'AGI par Hinton
Le thème de la Conférence mondiale sur le numérique de 2026 était “ L'IA et le développement social ”.”
Lors de cet événement, Hinton et Sejnowski ont été récompensés pour avoir inventé la « machine de Boltzmann » dans les années 1980 — une avancée majeure qui a par la suite servi de catalyseur à la révolution de l'apprentissage profond.
C'est Li Deng, de Microsoft, lui-même bénéficiaire de cette invention, qui a remis le prix. Entre 2009 et 2010, il a invité Hinton à collaborer chez Microsoft, où ils ont utilisé des machines de Boltzmann pour pré-entraîner des systèmes de reconnaissance vocale à grande échelle, ce qui a conduit à l'un des premiers grands succès industriels de l'apprentissage profond.
La première partie de la séance a porté sur l'histoire de la science, la gloire universitaire et les souvenirs communs.
Hinton et Sejnowski se sont souvenus d'un moment, dans les années 1980, lors d'un colloque à Rochester, où ils avaient associé le réseau de Hopfield à l'anneutage simulé.
Sejnowski s'en souvenait très bien :
“ Nous étions assis là quand nous avons soudain compris que nous pouvions ” réchauffer » le réseau de Hopfield, le rendant ainsi probabiliste. »
Hinton a ajouté un détail : à l'époque, il venait de travailler à San Diego avec David Rumelhart sur la rétropropagation à l'aide d'unités logistiques. Et lorsque la température a été introduite dans le réseau de Hopfield, celui-ci a également produit des unités logistiques.
Deux parcours totalement différents ont abouti à la même forme mathématique.
Dans l'histoire des sciences, on appelle ces moments des “ moments de cristallisation ”.”
Il est intéressant de noter que Hinton continue de penser que les machines de Boltzmann sont plus élégantes que la rétropropagation.
“ C'est une bien meilleure idée. Mais ce n'est pas très pratique. ”
Sejnowski a ri et a acquiescé :
“ C'était déjà un réseau neuronal génératif plusieurs décennies avant que l'IA générative ne devienne populaire. ”
Hinton : “ AGI est un terme stupide ”
Lorsque la discussion a porté sur l'IA générale et les risques sociétaux, Hinton a complètement changé de registre.
Li Deng a posé une question que beaucoup se posent : comment définit-on l'IA générale (AGI) ? Quels sont les critères qui permettent d'en signaler l'avènement ?
Hinton n'a pas mâché ses mots :
“ AGI, c'est un terme idiot. ”
La raison est simple : cela revient à considérer que l'intelligence est unidimensionnelle, à l'instar d'un thermomètre : plus le chiffre est élevé, plus on est intelligent.
“ Mais l'intelligence est manifestement un phénomène extrêmement multidimensionnel. ”
“ Il n’y a pas un seul domaine dans lequel l’IA est à égalité avec les humains. Ses capacités par rapport aux humains sont inégales : elle nous dépasse de loin dans certains domaines, mais reste à la traîne dans d’autres. ”
Il a donné un exemple : demandez aujourd’hui à n’importe quel grand modèle quelles sont les dates limites fiscales en Slovénie ou comment imperméabiliser un porche — il vous répondra couramment.
En matière de culture générale, l'IA a déjà largement dépassé les humains.
Mais dans certains exercices de raisonnement, il n'a pas encore tout à fait rattrapé son retard.
“ Le terme ”AGI" n'a donc aucun sens. »
Au-delà de l'IA générale : Hinton s'exprime sur la superintelligence
Alors, quel terme est important ?
Selon Hinton, il s’agit de la “ superintelligence ”.”
Sa définition est claire : être plus performant que les humains dans presque toutes les tâches intellectuelles.
Et nous pensons que cela va arriver.
Puis vint la question centrale de toute la discussion :
Lorsque la superintelligence fera son apparition, les humains exerceront-ils encore un contrôle significatif sur les systèmes qu'ils ont créés ?
Hinton a répondu :
“ Nous ne savons pas si nous pourrons coexister avec une IA superintelligente. ”
“ Mais comme c'est nous qui le développons, nous avons encore beaucoup de contrôle pour l'instant. ”
“ Nous devrions le construire avec soin, afin de pouvoir continuer à exister et à cohabiter avec lui. ”
Dans les modèles connus, il n'existe qu'un seul exemple où un être bien plus intelligent accorde volontairement la liberté à un être bien moins intelligent :
Une mère et son bébé.
Parce que la mère s'en soucie vraiment.
Les trois catégories de risques liés à l'IA selon Hinton
Hinton a classé les risques liés à l'IA en trois catégories.
Utilisation abusive délibérée
Les personnes qui utilisent délibérément l'IA à des fins malveillantes :
Les « deepfakes » destinés à saper la démocratie, les virus créés de toutes pièces pour déclencher des pandémies, les cyberattaques.
C'est la menace la plus directe.
Effets secondaires liés à la recherche du profit
Conséquences imprévues lorsque les gens essaient de gagner de l'argent :
La production d'images illégales, les algorithmes de recommandation qui favorisent des contenus de plus en plus extrêmes, finissant par diviser la société en groupes dépourvus de langage commun.
“ Ils cherchent simplement à gagner de l'argent, mais cela a pour effet secondaire de creuser les divisions sociales. ”
Le risque existentiel au-delà de l'IA générale
L'IA prend le contrôle de son propre chef.
Hinton estime que cette troisième catégorie pourrait déboucher sur une coopération internationale, car tout le monde la redoute.
Mais les deux premiers ?
Surtout le premier point : les pays parleront de coopération, mais en réalité, ils s'attaqueront les uns les autres.
Cela rend la situation beaucoup plus difficile à gérer.
L'avertissement de Hinton : le parallèle entre le tabac et l'amiante
Hinton a proposé une analogie :
Regardez l'histoire du tabac et de l'amiante.
Les pays qui les produisaient — comme le Canada — ont mis en place des réglementations nationales pour protéger leurs citoyens.
Mais ils ont continué à vendre ces produits aux pays en développement.
Ainsi, même si les pays producteurs d'IA mettent en place les “ bonnes ” réglementations, ils pourraient tout de même exporter des systèmes d'IA vers d'autres pays, où des conséquences néfastes pourraient alors se produire.
Il n'y a rien de nouveau sous le soleil.
Le même scénario pourrait bien se reproduire.
Débat AGI : les grands modèles linguistiques constituent-ils une impasse ?
Yann LeCun a déclaré que les grands modèles linguistiques constituaient une impasse pour parvenir à l'IA générale. Qu'en pense Hinton ?
Il a divisé la question en deux parties.
Tout d'abord, une question philosophique :
Un système qui se contente de prédire le mot suivant peut-il comprendre l'espace ?
Réponse : oui.
“ C'est très surprenant. ”
Et maintenant, un exemple concret :
Est-ce un moyen efficace de comprendre l'espace ?
Réponse : non.
Si vous disposez d'un appareil photo et que vous savez manipuler des objets, vous acquerrez une compréhension de l'espace et des notions de physique de base de manière bien plus efficace.
Concrètement, une IA multimodale — intégrant la vision, l'action et le langage — apprendra plus rapidement et avec moins de données qu'un modèle purement linguistique.
Mais d'un point de vue philosophique, si l'on dispose de suffisamment de données linguistiques, même un modèle purement linguistique pourrait suffire.
L'économie de l'IA générale (AGI) de $4,8 billions : qui en profitera ?
La question de la distribution est un autre sujet de discorde qui a été mis en évidence lors de la conférence.
Pedro Manuel Moreno, secrétaire général par intérim de la CNUCED, l'a clairement souligné : la capacité à développer et à façonner l'IA est concentrée entre les mains d'un petit nombre d'économies et d'entreprises.
Doreen Bogdan-Martin a souligné un contraste saisissant :
Les pays développés adoptent l'IA à un rythme près de deux fois supérieur à celui des pays en développement.
“ Si ce problème n'est pas résolu, cela deviendra une deuxième grande divergence. ”
Le fossé entre les pays qui développent l'IA et ceux qui se contentent de l'utiliser se creuse de manière visible.
Ce marché de $4,8 billions — avec ses infrastructures, ses investissements et ses talents — est concentré dans quelques régions de l'hémisphère nord.
Le reste du monde pourrait bien ne même pas avoir sa place à la table des négociations.
Qui tient les rênes à l'ère de l'IA générale ?
Si l'on prend un peu de recul, cette conversation est l'aboutissement des mises en garde lancées par Hinton au cours des trois dernières années.
En 2023, lorsqu'il a quitté Google, il a déclaré :
“ Je regrette l'œuvre de ma vie. ”
En 2024, lors de la remise du prix Nobel, il a appelé à accorder une attention particulière à la sécurité de l'IA.
En 2025, il n'a cessé de souligner l'urgence d'une réglementation.
En 2026, son discours est devenu plus concret.
Mais ce qui est tout aussi frappant, c'est la clarté de sa technique.
À 78 ans, après avoir évoqué les risques liés à l'IA générale (AGI) et les menaces existentielles, il peut immédiatement revenir à l'explication des raisons pour lesquelles les machines de Boltzmann restreintes constituent une inférence bayésienne correcte, pourquoi les modèles actuels de génération d'images n'utilisent que la moitié de l'algorithme « veille-sommeil », et en quoi la combinaison de modèles génératifs et de reconnaissance pourrait constituer la prochaine étape logique.
Il vit dans deux mondes à la fois :
Une réflexion sur la manière dont l'IA gagne en puissance.
L'autre porte sur la manière dont l'humanité parvient à échapper à la destruction causée par ce pouvoir.
Hinton, l'AGI et la dernière chance pour l'humanité
Le moteur vrombit déjà.
Une machine de $4,8 billions qui tourne à plein régime.
La présence ou non d'un volant dépendra de ce qui se passera au cours des prochaines années — et de la volonté de ceux qui sont aux commandes — gouvernements, entreprises et scientifiques — de s'en emparer.
Nous nous trouvons à un moment très particulier de l'histoire.
Avant que l'IA générale (AGI) ou l'IA superintelligente ne devienne plus performante que nous, c'est peut-être la seule période pendant laquelle l'humanité peut encore fixer les règles du jeu.
Lorsque Hinton a quitté Google il y a trois ans, beaucoup ont pensé qu'il faisait preuve d'alarmisme.
Trois ans plus tard, il continue de tenir les mêmes propos.
La différence aujourd'hui, c'est que davantage de gens comprennent ses préoccupations.
Mais cette voiture sans volant ?
Ça continue d'accélérer.
