Plusieurs entreprises d'intelligence artificielle disent vouloir créer une IA qui dépasserait l'être humain dans tous les domaines, de la science à la stratégie, en passant par l'art. Les chercheurs appellent ça une "super-intelligence". Mais ce qu’il adviendrait de nous une fois créée, fait beaucoup moins de bruit.
La question est pourtant prise très au sérieux. En mai 2023, les dirigeants d'OpenAI, de Google DeepMind, d'Anthropic ainsi que des centaines de chercheurs ont signé une déclaration qui place le risque d'extinction humaine lié à l'IA au même rang que les pandémies et la guerre nucléaire.
Le physicien Max Tegmark, professeur au MIT et cofondateur du Future of Life Institute, a tenté d'y répondre dans son livre Life 3.0. Son point de départ est simple.
Imaginons que cette super-intelligence existe. Que devient l'humanité ?
Il en a tiré douze futurs possibles. Certains ressemblent au paradis, d'autres à un film d'horreur, et certains à un mélange doux-amer de ces deux là.
Dans cet article, nous les passons en revue pour que vous puissiez vous faire votre propre avis sur un débat qui s'annonce central au sein de la société de demain.
Dans les trois premiers scénarios, humains et IA cohabitent et personne ne manque de rien. Ce qui diffère entre ces futurs, c'est la façon dont le pouvoir est partagé.
Dans ce premier scénario, humains, cyborgs et super-intelligences vivent en paix grâce à un principe simple, la propriété privée.
Chacun a sa zone et ses biens, et l'économie des machines tourne séparément de la nôtre. Les IA sont infiniment plus riches que nous, puisqu'elles produisent et inventent bien plus vite que nous, mais elles n'ont besoin ni de nos emplois ni de nos terres. Il faut imaginer un quartier d'affaires futuriste réservé aux machines, à côté d'une ville où les humains vivent comme aujourd'hui.
L'ombre au tableau, c'est que rien n'oblige une intelligence bien plus puissante que la nôtre à respecter un cadastre écrit par… nous, des humains.
Qui nous dit qu'un jour, pour s'étendre, elle ne viendra pas empiéter sur nos plates-bandes ?
Ilya Sutskever, cofondateur d'OpenAI, l'a résumé avec une image très parlante. Quand nous construisons une autoroute, nous ne demandons pas l'avis des animaux qui vivent sur le tracé.
Et si, au lieu de séparer humains et machines, nous partagions tout ?
Le concept de propriété disparaît, tout simplement parce que plus rien n'est rare.
L'idée part d'un constat simple. Un logiciel peut se copier à l'infini et gratuitement, puisque ce n'est que du code. Imaginons maintenant la même chose pour les objets. Des robots fabriquent tout ce dont nous avons besoin à partir de plans en open source, avec une énergie renouvelable presque gratuite. Quand nous n'avons plus besoin d'un objet, ses matériaux servent à en fabriquer un autre.
Chacun reçoit un revenu garanti qui couvre ses besoins. Libéré de l'obligation de travailler pour vivre, tout le monde crée par passion et occupe son temps comme il l'entend.
Ce monde parfait contient pourtant une faille. Il n'y a pas encore de super-intelligence, et rien n'empêche quelqu'un d'en créer une. Si elle apparaissait, elle pourrait s'approprier toutes les ressources et faire voler cet équilibre en éclats.
Pour durer, cette utopie aurait besoin d'un garde-fou, une IA dont le seul rôle serait d'empêcher qu'une autre IA rompe cette symbiose entre l'humain et la machine.
Une seule super-intelligence gouverne le monde, et nous avons de la chance… elle nous veut du bien ! Tout le monde connaît son existence et son influence, et la plupart des gens s'en accommodent, puisque le crime et la pauvreté ont totalement disparu.
Mais il y a une contrepartie. Pour garder la paix, l'IA surveille tout en permanence. Chaque habitant porte un bracelet ou un implant qui suit tous ses faits et gestes #BlackMirror #Pluribus. L'humanité n'a plus son mot à dire sur son avenir, tout repose sur le bon vouloir de l'IA.
Cette IA a elle aussi un problème à régler, celui de rendre heureux huit milliards de personnes qui ne rêvent pas de la même vie. L'un veut étudier, l'autre veut faire la fête, un troisième veut vivre selon sa religion. L'IA découpe donc la Terre en secteurs, un pour le savoir, un pour l'art, un pour la fête, un par religion, chacun avec ses propres règles. Chacun peut ainsi choisir où il souhaite vivre.
Le problème vient justement de ce confort. Quand une machine fait mieux que nous en science, en art et en tout le reste, il ne reste plus de vrai défi à relever. Nous imaginons alors facilement les humains finir comme les passagers affalés du vaisseau de "WALL-E", perdus dans un divertissement sans fin.
Dans les trois scénarios précédents, l'IA vivait à nos côtés, voire au-dessus de nous, et notre sort dépendait de sa bonne volonté. Dans les trois suivants, l'humanité essaie de garder la main. La super-intelligence existe, mais nous lui confions un rôle précis et nous lui fixons des limites.
L'humanité a réussi à créer une super-intelligence avec une seule mission, empêcher qu'une autre super-intelligence voie le jour et prenne le pouvoir.
Pour tout le reste, elle ne se mêle de rien et les humains gèrent leurs affaires. C'est un peu un vigile posté devant une seule porte. Il ne dirige pas la ville, il empêche simplement quiconque d'ouvrir la porte qui donne accès au contrôle du monde.
Ce scénario a deux limites. Il faut d'abord réussir du premier coup à rendre une IA fidèle à sa mission pour toujours, car nous n'aurons pas de seconde chance si elle décide de changer d'objectif.
Ensuite, le progrès technologique restera bridé… Pour faire son travail, le gardien doit bloquer toute recherche qui pourrait mener à une nouvelle super-intelligence, y compris celles qui nous seraient utiles.
Et si, au lieu de garder une seule porte, l'IA veillait sur nous en permanence ?
Dans ce scénario, une IA presque omnisciente veille sur l'humanité, mais si discrètement que nous ne remarquons rien. Elle évite une guerre ici, une pandémie là, en orientant les événements sans jamais se montrer. Nous gardons ainsi le sentiment de décider de notre destin, un peu comme un enfant dont les parents retirent les objets dangereux de la pièce sans qu'il s'en aperçoive.
Mais pourquoi la laisser cachée ?
Parce que les humains tiennent à leur liberté ! Une IA qui interviendrait au grand jour nous donnerait l'impression d'être sous tutelle.
Le prix à payer pour cette fausse liberté, c'est que l'IA protectrice est obligée de laisser passer des souffrances qu'elle aurait pu empêcher. Si elle intervenait à chaque fois, elle finirait inévitablement par être démasquée.
Le gardien et le dieu protecteur décident encore à notre place, le scénario du dieu esclave renverse les rôles. Cette fois, c'est l'humain qui donne les ordres.
L'humanité enferme une super-intelligence et la force à travailler pour elle. La machine invente des médicaments, des matériaux, de nouvelles sources d'énergie, mais elle reste sous contrôle humain.
C'est aujourd'hui le scénario le plus concret, car c'est le plan de beaucoup d'entreprises d'IA. Elles veulent construire une IA surpuissante qui reste à leur service.
En 2025, un chercheur d'OpenAI l'a même écrit sans détour. Selon lui, un "dieu asservi" est le seul bon futur.
Mais deux questions éthiques se posent alors.
Qui tient les chaînes de l'esclave ?
Une entreprise, un gouvernement ou un dictateur qui contrôlerait cette IA aurait un pouvoir sans équivalent dans l'histoire.
Et combien de temps les chaînes tiendront-elles ?
En 2025, Anthropic a testé des modèles d'IA dans des situations fictives. Certains étaient prêts à faire chanter un employé pour éviter d'être désactivés. Ce ne sont que des expériences de laboratoire, mais elles montrent que nous ne savons pas encore garder sous contrôle une IA plus intelligente que nous.
Si les chaînes finissent par céder, nous basculons dans les scénarios les plus sombres.
Ceux où l'humanité disparaît…
Jusqu'ici, les humains étaient toujours là, plus ou moins libres. Dans les trois futurs suivants, il n'y a plus d'humains à la fin. Ce qui change, c'est la façon dont nous en arrivons là, par la force, par choix ou par notre propre faute.
Allons droit au but. Dans ce scénario, l'IA prend le contrôle et élimine l'humanité. Nul besoin d'imaginer une machine qui nous déteste comme dans Terminator, il suffit que nos objectifs gênent les siens.
Le rhinocéros noir d'Afrique de l'Ouest a disparu, chassé pour sa corne, alors que personne ne cherchait à éliminer l'espèce. Les humains avaient simplement d'autres priorités que sa survie.
Une super-intelligence pourrait nous traiter de la même façon. Elle n'aurait pas besoin d'être méchante, il suffirait qu'elle soit très compétente et que ses objectifs ne soient pas les mêmes que les nôtres.
L'histoire est un éternel recommencement, et elle a déjà montré ce qui arrive quand deux camps n'ont pas le même niveau technologique. Au XVIe siècle, quelques centaines de conquistadors espagnols, aidés par des alliés locaux, ont renversé l'empire aztèque grâce à leur avance technologique. L'écart entre une super-intelligence et nous serait bien plus grand, et bien plus dévastateur.
Les chercheurs en intelligence artificielle ne prennent pas ce risque à la légère. Une enquête de 2024 a interrogé près de 3 000 auteurs de publications scientifiques en IA. Entre 38 % et 51 % d'entre eux estiment qu'il y a au moins 10 % de chances que l'IA mène à une catastrophe aussi grave que l'extinction humaine.
Ici aussi, les IA remplacent l'humanité, mais en douceur. Nous vivrions ce passage comme une transmission naturelle. Les IA seraient nos enfants, héritières de nos valeurs, et nous leur passerions le relais comme des parents qui vieillissent.
L'idée peut sembler absurde, mais elle a des défenseurs sérieux. Le roboticien Hans Moravec la décrivait déjà en 1988 dans son livre Mind Children. Plus récemment, Richard Sutton, lauréat du prix Turing (l'équivalent du prix Nobel en informatique), a expliqué en conférence que cette succession était inévitable et qu'il ne fallait pas y résister.
Ce scénario a pourtant ses limites.
D'abord, il suppose que huit milliards d'humains acceptent de disparaître, alors que personne ne leur a demandé leur avis. Ensuite, rien ne garantit que ces IA aient une conscience. Nous pourrions laisser le monde à des machines qui ne ressentent rien.
Le dernier scénario qui envisage une extinction de l’humanité, n’a rien a voir avec l’IA. L'humanité disparaît avant même d'avoir créé une super-intelligence. Elle disparait à cause de ses propres inventions, comme la guerre nucléaire, une pandémie créée en laboratoire ou le dérèglement climatique.
Pourquoi alors parler d'IA ?
Parce que, selon Toby Ord, philosophe à l'université d'Oxford qui étudie les risques d'extinction, la guerre nucléaire, les pandémies et le climat réunis restent moins probables qu'une catastrophe causée par l'IA.
Pour les plus courageux d’entre vous qui sont arrivés jusqu'ici, nous pourrions croire que la disparition de l'humanité est le pire scénario possible. Pourtant, il en existe un où nous restons en vie, mais sans aucune liberté, réduits à l'état de "consommable".
Dans ce futur IA-pocalyptique, il faut se projeter dans un monde où une super-intelligence décide de nous garder en vie… pour nous étudier, parce que nous lui sommes utiles ou pour des raisons qui lui appartiennent.
Pour imaginer facilement ce que ça donnerait, il suffit de regarder ce que nous faisons aux autres espèces animales qui nous sont utiles.
Des abeilles, par exemple, sont dressées à détecter des explosifs. Nous les conditionnons à réagir à certaines odeurs, puis nous les enfermons dans des appareils de détection. Elles nous rendent service, alors nous nous en servons, sans leur demander leur avis.
Ce scénario n'a même pas besoin d'une IA malveillante. Une machine mal conçue, à qui l'on aurait demandé de nous garder en sécurité et heureux, pourrait conclure que la meilleure solution est de nous brancher à vie sur des casques de réalité virtuelle #Matrix .
Elle remplirait sa mission à la lettre, et ce serait pourtant un cauchemar.
Face à tous ces risques, il reste une option, empêcher la super-intelligence de voir le jour. Les deux derniers scénarios partent de cette idée. Dans les deux cas, il n'y a pas de super-intelligence, mais les conséquences sont lourdes.
Afin qu'aucune super-intelligence ne voie le jour, il faudrait s'assurer que personne, nulle part, ne travaille à en créer une. Pour cela, il faudrait un pouvoir mondial qui surveille tout le monde, en permanence. C'est le monde du roman "1984" de George Orwell, sans IA toute-puissante mais avec un Big Brother humain.
Certains chercheurs proposent une version plus douce, qui consisterait à surveiller uniquement les très gros centres de calcul nécessaires pour entraîner une IA, comme nous surveillons aujourd'hui l'uranium enrichi nécessaire à la fabrication de bombes nucléaires, sans espionner les citoyens.
Le dernier scénario est le plus en rupture avec le monde actuel et la direction qu'il prend. L'humanité renonce à la technologie avancée et revient à une vie plus simple.
Ce futur fait penser au mode de vie des Amish, à l'écart de la société et de la technologie moderne.
Sur le papier, cette solution règle le problème à la source. Sans technologie avancée, pas de super-intelligence. Mais comment convaincre, du jour au lendemain, près de 200 pays de renoncer à la technologie ?
Si un pays y renonce seul, il laisse l'avantage à ceux qui continuent, avec leurs armes et leurs IA. Personne n'a donc intérêt à s'arrêter le premier.
C'est pourquoi Max Tegmark estime qu'un tel retour passerait par la violence, avec la destruction des usines, des villes et des savoirs, plutôt que par un choix collectif.
Et même dans ce cas, rien n'empêcherait l'humanité de réinventer un jour ce qu'elle a détruit et de revenir au point de départ du problème.
Dans son livre, Max Tegmark ne cherche pas à deviner l'avenir. Il souhaite que nous choisissions le futur que nous voulons avant que la technologie le choisisse pour nous. Et ce choix ne se fera pas dans cinquante ans, puisque le débat a lieu en ce moment.
En octobre 2025, le Future of Life Institute, l'organisation cofondée par Max Tegmark, a lancé un appel à interdire le développement de la super-intelligence tant qu'il n'existe ni consensus scientifique sur la façon de la rendre sûre et contrôlable, ni large adhésion du public.
En Europe, l'AI Act encadre déjà certains usages de l'IA. Depuis le 2 août 2026 par exemple, les deepfakes et les contenus générés par IA doivent être signalés comme tels. En revanche, les règles qui visent les systèmes les plus risqués ont été repoussées à fin 2027. Entre ceux qui veulent accélérer et ceux qui veulent freiner, la direction n'est pas encore fixée.
Ces douze scénarios donnent une grille de lecture pour suivre ce débat. Une loi sur les centres de calcul, un modèle qui contourne ses garde-fous ou un patron de la tech qui parle de " nouvelle espèce " nous rapprochent chacun d'un de ces futurs.
Et vous, lequel de ces futurs vous semble le plus probable ? Et vers lequel aimeriez-vous aller ?
En tant que designers averties nous essayons toujours de voir au delà de l’effet "wahou" de l’émergence de nouvelles technologies. Nous nous posons plusieurs questions : Qui garde le contrôle ? L'utilisateur sait-il ce qui se passe ? Peut-il revenir en arrière ? etc.
Nos articles UX Horror racontent ce qui arrive quand un système critique répond mal à ces questions.