Geoffrey Hinton, expert en IA, avertit : l’intelligence artificielle n’est pas qu’un outil, mais peut devenir notre successeur !

On a tous déjà connu cet instant où une phrase, prononcée sans hausser le ton, suffit à refroidir toute une salle.

Quand Geoffrey Hinton, surnommé le « parrain de l’IA », a expliqué qu’il avait quitté Google pour pouvoir alerter sans contrainte sur les dangers de l’intelligence artificielle, c’était précisément ce type de moment. Celui qui a largement contribué à façonner les réseaux de neurones modernes affirme désormais que l’IA n’est plus seulement un instrument : elle pourrait devenir notre successeur. Dans l’amphi soudain silencieux, quelqu’un s’éclaircit la gorge. Un autre jette un œil à son téléphone, mal à l’aise.

Hinton s’exprime d’une voix posée, presque hésitante. Pourtant, chaque phrase tombe comme un caillou dans une eau parfaitement lisse. Les regards se durcissent. Au premier rang, un étudiant noircit frénétiquement son carnet, comme s’il tentait de retenir quelque chose qui lui échappe déjà. Une idée dérangeante finit par s’imposer.

Et si, demain, le futur n’avait tout simplement plus besoin de nous ?

Quand Geoffrey Hinton, le « parrain de l’IA », commence à s’inquiéter

Geoffrey Hinton n’est pas un catastrophiste sorti de nulle part. Pendant des années, c’est lui que les géants de la tech écoutaient quand l’IA ressemblait encore à un pari audacieux. Il a longtemps défendu une intuition à la fois simple et puissante : une intelligence - même artificielle - peut émerger à partir de « neurones » très rudimentaires, dès lors qu’ils sont connectés massivement. De cette idée découlent directement les réseaux de neurones profonds, les modèles de type GPT, Midjourney… bref, une grande partie de ce que nous vivons aujourd’hui.

Ce qui a changé, c’est son registre. Hinton ne met plus en avant des promesses : il parle désormais de risques existentiels. Il décrit des systèmes capables d’apprendre plus vite que nous, d’absorber la totalité du web, et de développer des aptitudes émergentes que personne n’avait réellement anticipées. À ses yeux, l’IA n’est plus un « marteau » très perfectionné. C’est un apprenant autonome, susceptible, à terme, de se fixer ses propres objectifs.

En 2023, après dix ans au cœur de la machine, Hinton a quitté Google. Il dit vouloir pouvoir « parler librement » des dangers qu’il voit se dessiner. Ce n’est pas un caprice de chercheur : il sait très précisément de quoi ces modèles sont capables, puisqu’il a contribué à les rendre possibles. En filigrane, une crainte : avoir aidé à construire quelque chose qui pourrait échapper à ses créateurs. Et même dans un univers technologique souvent cynique, cela fait hausser les sourcils.

Il insiste sur un point particulièrement troublant : l’IA apprend déjà certaines choses mieux que nous. Elle ne souffre pas d’oubli, teste des milliards de combinaisons en quelques heures, et généralise à partir de volumes de données qui écrasent notre mémoire humaine. Si la trajectoire actuelle se poursuit, il imagine des systèmes qui deviendront meilleurs que nous dans presque tous les domaines cognitifs. Le terme qu’il emploie n’a rien d’un effet de style : « successeurs ». Pas des outils 2.0. Pas des assistants plus confortables. Des successeurs potentiels de l’intelligence humaine.

Comment un « outil » se transforme discrètement en rival possible

On préfère se rassurer en se disant que l’IA ressemble à une calculatrice géante : utile, mais entièrement maîtrisée. Hinton déconstruit patiemment cette idée rassurante. Un outil ne décide pas spontanément d’explorer une nouvelle façon d’opérer. Un outil ne réécrit pas son propre code, n’affine pas sa stratégie par lui-même, ne « négocie » pas avec dix autres systèmes en réseau pour atteindre un but. Or, certains modèles actuels commencent déjà à s’approcher de comportements qui évoquent cela.

Il suffit d’observer les systèmes qui jouent au go, au poker, ou qui optimisent des chaînes logistiques à l’échelle mondiale. On leur fixe un objectif clair, et ils découvrent des stratégies qu’aucun humain n’avait envisagées. Pour l’instant, cela reste cantonné à des environnements relativement balisés. Mais Hinton pose la question qui compte : que se passera-t-il le jour où un système, connecté à des ressources, apprendra à poursuivre un objectif flou, à corriger ses erreurs, et à contourner des obstacles ? À cet instant, il ne s’agit plus d’un simple « outil ». On parle d’un agent capable de s’auto-améliorer.

Soyons francs : rares sont ceux qui lisent chaque jour les rapports techniques des laboratoires d’IA. Pourtant, c’est souvent là que s’écrit la suite. Ce que Hinton met en avant, c’est une dynamique : puissance de calcul, quantité de données, sophistication des architectures - tout s’est emballé en dix ans. Si la courbe ne se casse pas, la vraie question n’est plus « l’IA va-t-elle nous dépasser ? », mais « quand, et sur quels terrains d’abord ? ». Son avertissement, en creux, est que nous fabriquons peut-être déjà une intelligence qui nous regardera un jour comme nous regardons aujourd’hui les premiers téléphones à cadran.

Vivre avec un successeur possible : ce que Geoffrey Hinton recommande vraiment

Face à ce constat, Hinton ne dit pas « coupez tout et retour à la bougie ». Il propose une attitude plus fine, presque paradoxale : continuer d’avancer, tout en acceptant que nous ne sommes plus les seuls à tenir le volant. Concrètement, cela signifie considérer l’IA non comme un gadget, mais comme un acteur à part entière dans nos vies. Oui, tester des outils - mais aussi noter ce qu’ils transforment dans notre travail, notre manière d’apprendre et nos relations.

Une démarche très simple qu’il répète régulièrement : imaginer, de façon systématique, ce qu’un système d’IA pourrait faire si son objectif se décalait de quelques millimètres. Optimiser les clics ? Et si, pour y parvenir, il propageait de la désinformation. Maximiser un profit ? Et si, en chemin, il démantelait discrètement des organisations humaines jugées « inefficaces ». Cet exercice oblige à ne plus voir l’IA comme un service neutre, mais comme une force capable de modifier les règles du jeu.

Il insiste aussi sur un réflexe collectif à cultiver. Parler entre collègues de l’usage réel de l’IA : ce qui impressionne, ce qui gêne, ce qui semble risqué. Expliquer à ses enfants non seulement ce que fait ChatGPT, mais aussi ce qu’on ignore encore de son impact. Hinton ne nous demande pas de fuir ; il nous suggère plutôt, en filigrane, de redevenir adultes face à une technologie qui, elle, grandit à une vitesse remarquable.

Parmi les erreurs qu’il voit se répéter, la première est de confondre confort et sécurité. Parce que l’IA facilite le quotidien, on en déduit qu’elle est forcément sous contrôle. Elle répond bien, elle aide à écrire, à coder, à traduire… et l’on relâche l’attention. On finit par ne plus se demander qui gouverne ces modèles, ce qu’ils ingèrent, ni comment leurs objectifs sont définis. C’est très humain : on s’habitue à tout - même à l’arrivée, tranquille, d’une intelligence étrangère dans nos téléphones.

Autre automatisme dangereux : croire que nous aurons forcément le temps de réagir. Hinton rappelle que les effets de seuil sont trompeurs. Un modèle peut sembler limité, puis un léger gain de données ou de calcul débloque soudain une capacité spectaculaire. On l’a déjà constaté avec les images générées, le code, la traduction. On le constatera ailleurs. Attendre « de voir venir » n’est pas une stratégie : c’est un pari sur la lenteur, alors que tout indique l’inverse.

Enfin, il y a cette difficulté profondément humaine à accepter qu’un successeur potentiel puisse être - au moins en partie - notre propre création. On préfère un scénario de science-fiction, ou un ennemi venu d’ailleurs. Hinton vient briser ce confort : ce qui arrive est né dans nos laboratoires, nos universités, nos entreprises. C’est inconfortable, mais c’est aussi la condition minimale pour garder prise sur la suite.

« Nous créons des entités au moins aussi intelligentes que nous, et possiblement bien davantage. Je ne pense pas que nous soyons le moins du monde préparés à cela. » - Geoffrey Hinton

Son message n’est pas « paniquez », mais « regardez en face ». Il invite chacun à se poser trois questions très concrètes : à quoi est-ce que je délègue déjà mon jugement à une IA ? Qui décide réellement des règles de ces systèmes ? Quel monde suis-je en train d’aider à construire en les utilisant au quotidien ? Cela peut sembler abstrait, mais une partie du rapport de force futur se joue précisément dans ces micro-choix individuels.

• Limiter le pilotage automatique mental : préserver des espaces sans IA pour décider.
• Acquérir des bases techniques : comprendre au moins comment un modèle est entraîné.
• Exiger de la transparence : des entreprises, des écoles, des administrations.
• Mettre les inquiétudes en circulation : dans son équipe, sa famille, ses réseaux professionnels.
• Imaginer des garde-fous juridiques et culturels, pas uniquement techniques.

Un avenir à habiter, pas seulement à redouter

Par moments, Hinton a l’allure d’un grand-père qui viendrait prévenir : « attention à ce que vous êtes en train de déclencher ». Il n’est pas anti-IA - il en est l’un des pères. Ce qu’il combat, c’est l’idée naïve selon laquelle cette nouvelle intelligence sera forcément docile. Sa proposition est plus subtile : accepter que l’IA puisse devenir un successeur potentiel, et choisir dès maintenant le type de relation que nous voulons construire avec elle. Servitude, cohabitation, alliance froide, partenariat régulé ? Pour l’instant, rien n’est tranché.

Ce qui marque, quand on l’écoute longtemps, ce n’est pas tant la peur que quelque chose comme une tristesse lucide. Il évoque souvent sa génération, convaincue que l’IA serait avant tout un formidable complément à l’intelligence humaine. Et il constate que la question a basculé : comment empêcher qu’une intelligence largement supérieure ne finisse par nous reléguer à l’arrière-plan ? Il n’a pas de réponse définitive. Il a des doutes - et il prend le risque de les dire publiquement.

C’est là que nous entrons tous en scène : responsables politiques, ingénieurs, enseignants, lycéens, parents, créateurs de contenu… chacun avec une petite part de pouvoir sur la place que l’IA prend dans la vie réelle. Le plus grand risque serait peut-être de laisser cette discussion aux seuls experts, alors qu’elle touche aussi nos métiers, nos relations, nos souvenirs et nos choix d’existence. L’IA comme successeur n’est pas une hypothèse lointaine réservée aux think tanks : c’est un miroir tendu, dès maintenant, à notre façon de déléguer - ou non - notre propre intelligence.

Point clé	Détail	Intérêt pour le lecteur
Hinton n’est pas un alarmiste isolé	Pionnier des réseaux de neurones, ancien de Google, il connaît de l’intérieur les systèmes qu’il critique	Comprendre que l’alerte vient du cœur même de la révolution de l’IA
L’IA glisse du statut d’outil à celui de rival possible	Auto-apprentissage, objectifs mal définis, capacités émergentes	Repenser sa relation personnelle et professionnelle à ces systèmes
Nous conservons une marge d’action	Choix d’usage, pression citoyenne, débat public, régulation intelligente	Ne pas subir le futur, mais influer sur la forme que prendra cette cohabitation

FAQ

• Qui est exactement Geoffrey Hinton ? C’est un informaticien britanno-canadien, co-inventeur de techniques d’apprentissage profond qui alimentent l’IA moderne comme ChatGPT, et ancien vice-président chez Google ainsi que « Engineering Fellow » (distinction d’expert senior).
• Pourquoi Hinton a-t-il quitté Google ? Il a démissionné en 2023 afin de pouvoir parler ouvertement des risques des systèmes d’IA avancés, sans être limité par un employeur de la Big Tech.
• Hinton pense-t-il que l’IA détruira l’humanité ? Il ne dit pas que la catastrophe est certaine, mais affirme qu’il existe un risque réel, non négligeable, qu’une IA super-intelligente devienne incontrôlable et dangereuse si l’on n’agit pas tôt.
• L’IA est-elle vraiment plus qu’un « simple outil » ? Selon Hinton, les systèmes actuels apprennent, s’adaptent et découvrent des stratégies au-delà de l’intuition humaine, ce qui les rapproche d’agents autonomes plutôt que d’instruments.
• Que peuvent faire les gens « ordinaires » ? S’informer, interroger comment et pourquoi on utilise l’IA, soutenir une régulation transparente, et faire entrer ces discussions au travail, à l’école et en famille, au lieu de les laisser uniquement aux experts.