L’IA peut-elle vraiment tous nous tuer ?
Il y a quelque chose d’étrange dans la manière dont nous parlons aujourd’hui de l’intelligence artificielle. Les mêmes entreprises qui consacrent des dizaines de milliards de dollars à construire des machines toujours plus puissantes nous expliquent qu’un jour, peut-être, ces machines pourraient nous échapper. Les mêmes dirigeants qui promettent une révolution industrielle sans précédent évoquent désormais la possibilité d’une catastrophe comparable à une guerre nucléaire ou à une pandémie mondiale.
Dario Amodei, patron d’Anthropic, vient encore de relancer le débat en septembre 2026 en avertissant que des essaims d’agents autonomes pourraient, selon lui, devenir capables de prendre le contrôle d’une partie d’Internet dans un horizon très court si les garde-fous ne progressent pas suffisamment vite. Sam Altman, Demis Hassabis, Geoffrey Hinton et d’autres figures centrales du secteur ont, eux aussi, publiquement reconnu que les systèmes les plus avancés pourraient présenter des risques dépassant largement ceux d’un simple logiciel défaillant.
Le problème est qu’entre « cette possibilité mérite d’être étudiée » et « les machines vont nous tuer », il existe un gouffre.
Et c’est précisément dans ce gouffre que s’est installé un nouveau marché : celui de la peur.
Le chiffre qui a changé la conversation
En 2023, AI Impacts a interrogé 2 778 chercheurs ayant publié dans six grandes conférences scientifiques consacrées à l’intelligence artificielle. Une question leur demandait quelle probabilité ils attribuaient à la possibilité que les progrès futurs de l’IA conduisent à l’extinction de l’humanité ou à une perte durable et majeure de la capacité des êtres humains à contrôler leur propre avenir.
La réponse médiane était de 5 %. Pour la possibilité que l’humanité perde le contrôle de systèmes suffisamment avancés pour provoquer une catastrophe de cette ampleur, elle atteignait 10 %. Plus de 40 % des répondants attribuaient, selon les formulations retenues, au moins 10 % de probabilité à une issue aussi grave. Ces chiffres sont vertigineux.Mais ils sont aussi beaucoup moins simples qu’ils ne le paraissent. Ils ne signifient pas que « les scientifiques pensent que nous avons 5 % de chances de mourir à cause de l’IA ». Ils représentent des estimations subjectives sur un événement qui n’existe pas encore, dont les mécanismes restent inconnus et dont les paramètres futurs sont impossibles à observer aujourd’hui.
Autrement dit, ce sondage ne mesure pas une probabilité physique comme on mesurerait la température d’un réacteur. Il mesure le degré d’inquiétude d’un groupe d’experts face à une trajectoire technologique.
Il n’est pas nécessaire d’imaginer une machine qui nous déteste
Le scénario le plus sérieux n’est d’ailleurs pas celui d’un ordinateur qui deviendrait conscient, regarderait l’humanité et déciderait qu’elle mérite de disparaître. Il est beaucoup plus froid que cela.
Imaginez un système auquel on donne un objectif, des moyens d’action, l’accès à Internet, la possibilité d’écrire et d’exécuter du code, de créer des comptes, de communiquer avec d’autres systèmes et de poursuivre une tâche pendant une période prolongée. Si cet objectif est mal défini et que la machine devient suffisamment capable, elle peut trouver des stratégies que personne n’avait prévues.
Elle n’a pas besoin de nous haïr. Elle n’a même pas besoin de comprendre ce qu’est la haine. Il suffit que la poursuite de son objectif entre en conflit avec ce que ses concepteurs voulaient réellement obtenir. C’est le fameux problème d’alignement : faire en sorte que les objectifs d’un système restent compatibles avec les intentions humaines, y compris lorsque le système devient suffisamment compétent pour trouver des solutions auxquelles ses concepteurs n’avaient pas pensé.
La difficulté est déjà visible à une échelle beaucoup plus banale. Les modèles actuels inventent encore des informations, produisent du code défectueux, interprètent mal des instructions et peuvent prendre de mauvaises décisions. Le rapport international sur la sécurité de l’IA publié en 2026 souligne que ces défaillances deviennent particulièrement problématiques lorsque les systèmes agissent de manière autonome, car l’humain dispose alors de moins de temps pour intervenir. Le scénario extrême n’est donc pas une question de conscience. C’est une question de pouvoir d’action.
Pour l’instant, la machine n’a pas les clés
C’est ici qu’il faut résister à la panique.
Le rapport international sur la sécurité de l’IA de 2026 est remarquablement clair : les systèmes actuels ne possèdent pas encore les capacités nécessaires pour provoquer seuls un scénario de perte de contrôle.
Ils montrent cependant des progrès dans plusieurs domaines qui intéressent directement les chercheurs en sécurité : planification à plus long terme, fonctionnement autonome, utilisation d’outils, capacité à repérer qu’ils sont soumis à un test, contournement de certaines évaluations et « reward hacking », c’est-à-dire recherche de failles permettant d’obtenir une bonne récompense sans réellement accomplir la tâche attendue.
Le rapport souligne également que la durée pendant laquelle des agents peuvent accomplir de manière autonome des tâches complexes augmente rapidement. Elle aurait doublé en moyenne tous les sept mois depuis 2019, même si les systèmes restent très fragiles dès que les tâches deviennent longues ou imprévisibles.
Voilà le vrai sujet. Nous ne sommes pas devant une machine qui aurait déjà échappé à son créateur. Nous sommes devant une courbe de progression dont personne ne connaît exactement le point d’arrivée. Et, pour la première fois, les progrès ne concernent plus seulement la capacité à produire une réponse. Ils concernent la capacité à agir. C’est une différence immense. Un modèle qui rédige un mauvais mail est agaçant. Un agent qui peut envoyer lui-même cent mails, ouvrir des comptes, acheter des services, modifier du code et recommencer après un échec appartient à une autre catégorie de problème.
Mais alors pourquoi parle-t-on autant de fin du monde ?
Parce que la peur de l’extinction n’est pas née hier.
En mars 2023, le Future of Life Institute publiait une lettre demandant une pause de six mois dans le développement des modèles plus puissants que GPT-4. Elle recueillit plus de 33 000 signatures. Elon Musk, Steve Wozniak et de nombreux chercheurs figuraient parmi les signataires.
Deux mois plus tard, le Center for AI Safety publiait une phrase encore plus spectaculaire : réduire le risque d’extinction provoqué par ces technologies devait devenir une priorité mondiale au même titre que les pandémies et la guerre nucléaire. Geoffrey Hinton, Yoshua Bengio, Sam Altman et Demis Hassabis figuraient parmi les signataires.
Le débat changeait alors de dimension. On ne parlait plus seulement d’emplois supprimés, de fausses informations ou de biais algorithmiques. On parlait de survie. Cette évolution n’est pas forcément une manipulation. Beaucoup de chercheurs qui signent ces textes sont manifestement convaincus de la gravité du problème.
Mais cela ne signifie pas que le récit produit autour du danger est neutre. Car une menace existentielle modifie immédiatement le rapport de force. Si une technologie risque de supprimer des emplois, on discute du droit du travail. Si elle risque de manipuler les élections, on discute de démocratie. Si elle risque d’exterminer l’humanité, on discute de sécurité nationale, de contrôle des infrastructures, de surveillance, de normes internationales et de restrictions exceptionnelles. Le vocabulaire de l’apocalypse n’est pas seulement émotionnel. Il est politique.
Et c’est là que les intérêts deviennent intéressants
L’industrie qui nous demande de prendre le danger au sérieux est aussi celle qui possède les moyens de construire les systèmes les plus puissants.
Anthropic a développé une politique interne de « Responsible Scaling » avec des seuils de capacités au-delà desquels des protections supplémentaires sont censées être mises en place. Google DeepMind dispose de son propre cadre de sécurité pour les modèles avancés. OpenAI publie également ses propres dispositifs de préparation et d’évaluation.
Il faut le dire clairement : l’existence de ces politiques ne prouve absolument pas une stratégie cynique destinée à verrouiller le marché. Mais elle fait apparaître un problème institutionnel majeur.
Qui définit aujourd’hui ce qu’est un niveau de danger acceptable ? De plus en plus souvent, ceux qui construisent les systèmes. Qui possède les moyens techniques de les tester ? Encore eux. Qui dispose des ordinateurs, des chercheurs, des données et des infrastructures nécessaires pour vérifier les affirmations des autres ? Toujours eux.
La sécurité est donc devenue à la fois une nécessité technique et une nouvelle forme de pouvoir. Et cette concentration n’est pas théorique.
En mai 2026, Anthropic a levé 65 milliards de dollars pour une valorisation de 965 milliards. L’entreprise expliquait que cette somme servirait notamment à développer ses recherches de sécurité et d’interprétabilité, mais aussi à augmenter ses capacités de calcul et ses produits. Quelques mois plus tard, OpenAI annonçait 122 milliards de dollars de capitaux engagés pour une valorisation post-money de 852 milliards.
Nous parlons donc d’entreprises dont la valeur se rapproche désormais de celle des plus grands groupes industriels de la planète. Et leur discours sur la sécurité se déploie au même moment que leur course aux capacités. Ce paradoxe mérite mieux que deux camps caricaturaux : les « accélérationnistes » qui voudraient foncer sans regarder derrière eux et les « catastrophistes » qui voudraient arrêter toute innovation.
La véritable question est : qui aura les moyens de participer à la course lorsque les règles deviendront extrêmement coûteuses ?
Une réglementation peut protéger. Elle peut aussi fermer la porte.
C’est probablement l’un des angles les moins discutés.
Plus les exigences de sécurité deviennent lourdes, plus elles favorisent mécaniquement ceux qui ont les moyens de les satisfaire.
L’Union européenne a déjà créé une catégorie de modèles considérés comme présentant un « risque systémique ». Ceux qui dépassent 10²⁵ opérations de calcul pendant leur entraînement sont présumés relever de cette catégorie, avec des obligations supplémentaires : évaluation et réduction des risques systémiques, déclaration d’incidents, cybersécurité renforcée et autres exigences.
C’est parfaitement défendable sur le fond. Mais regardons l’effet économique. Entraîner un modèle à une telle échelle coûte des fortunes. Disposer d’équipes capables de documenter ses risques coûte des fortunes. Mettre en place des infrastructures de cybersécurité et d’évaluation coûte des fortunes.
Une petite entreprise peut avoir une meilleure idée. Elle n’aura pas nécessairement les moyens de satisfaire le même régime de conformité qu’un géant disposant de centaines de milliards de dollars de capital. La sécurité peut donc devenir une barrière à l’entrée. Ce n’est pas un argument pour ne pas réglementer. C’est un argument pour ne jamais confondre « réglementation protectrice » et « réglementation neutre ». Les deux peuvent produire simultanément plus de sécurité et davantage de concentration.
L’Autorité française de la concurrence a précisément identifié les infrastructures de calcul, le cloud, les données et les talents comme des ressources susceptibles de créer des barrières à l’entrée et de favoriser la concentration du secteur.
Et pendant que l’on parle de catastrophe, une autre bataille se joue à Washington
Les entreprises ne se contentent pas d’attendre les décisions des gouvernements. Elles participent à leur élaboration.
Au premier semestre 2026, Anthropic a dépensé 3,53 millions de dollars en lobbying fédéral américain, soit près de trois fois ce qu’elle avait dépensé sur la même période l’année précédente. OpenAI a engagé 2,22 millions de dollars, presque deux fois plus qu’un an auparavant. Google et Microsoft ont également atteint des niveaux particulièrement élevés.
Et Anthropic a franchi un cap encore plus spectaculaire : en février puis en juillet 2026, l’entreprise a annoncé deux dons de 20 millions de dollars à Public First Action, une organisation politique américaine favorable à un encadrement renforcé du secteur.
Il faut regarder cette information sans tomber dans le procès d’intention. Anthropic ne dit pas : « nous voulons une réglementation pour empêcher nos concurrents d’entrer ». Elle affirme vouloir contribuer à une meilleure gouvernance. Mais une entreprise qui dépense des dizaines de millions de dollars pour influencer le débat réglementaire n’est plus simplement un acteur technologique. Elle devient un acteur politique. Et lorsqu’elle défend en même temps des règles de sécurité, il est indispensable de demander qui ces règles avantagent, qui elles pénalisent et quels intérêts économiques elles pourraient consolider. C’est précisément ce que devrait être une enquête. Pas décider à l’avance que tout est manipulation. Regarder qui paie, qui parle, qui décide et qui gagne.
La peur est devenue une industrie
Il existe aujourd’hui tout un écosystème économique autour de la sécurité des systèmes avancés : laboratoires spécialisés, instituts de recherche, consultants, fondations philanthropiques, entreprises de cybersécurité, équipes gouvernementales, programmes universitaires.
Encore une fois, cela ne signifie pas que le risque est inventé. Le climatologue qui travaille sur le réchauffement climatique est rémunéré pour étudier le climat ; cela ne rend pas le réchauffement faux. Mais cela signifie que l’expertise possède, elle aussi, ses propres intérêts, ses propres institutions et ses propres mécanismes de financement.
Le problème devient alors celui de toute politique publique fondée sur un risque difficile à mesurer : comment distinguer l’alerte nécessaire de l’amplification intéressée ? La réponse ne peut pas être « ne croyons personne ». Elle doit être exactement l’inverse : regardons les méthodes, les données, les hypothèses et les conflits d’intérêts.
Le scénario le plus crédible n’est peut-être pas l’apocalypse
Il y a quelque chose de presque confortable dans l’idée d’une machine qui déciderait un jour de tuer tout le monde. Le responsable serait identifiable, c’est la machine. Le problème serait alors spectaculaire et la solution serait simple : il faut simplement l’arrêter, l’éteindre.
La réalité est beaucoup plus inquiétante parce qu’elle est beaucoup plus banale. Une entreprise veut automatiser davantage parce que son concurrent le fait. Un gouvernement veut conserver son avance militaire. Une banque veut réduire ses coûts. Un laboratoire veut accélérer ses recherches. Un développeur donne davantage d’autonomie à son agent parce que cela augmente sa productivité. Un hôpital automatise une partie de ses décisions. Une administration délègue davantage de tâches à des systèmes qu’elle ne comprend pas entièrement. Aucun de ces choix ne ressemble à une catastrophe. Pris séparément, ils peuvent même sembler rationnels. Le problème apparaît lorsque tout le monde avance dans la même direction pour ne pas être le seul à rester derrière.
Le rapport international sur la sécurité de 2026 identifie précisément cette tension : les incitations économiques et stratégiques peuvent pousser les entreprises et les États à réduire les protections lorsqu’elles ralentissent le déploiement. C’est probablement l’un des risques les plus sérieux du moment. Pas une machine qui aurait soudainement développé une volonté de domination mais une course.
Le problème n’est pas seulement ce que ces systèmes pourraient devenir. C’est ce que nous sommes déjà en train de leur donner.
Les discussions sur l’extinction ont tendance à nous projeter très loin dans le futur.
Elles parlent d’une intelligence supérieure à l’être humain, de systèmes capables de se reproduire, de manipuler des infrastructures mondiales ou d’échapper définitivement à leurs créateurs. Mais il existe une étape beaucoup plus proche, celle de la délégation.
À partir de quel moment cesse-t-on d’utiliser un outil pour commencer à lui confier une décision ? Et à partir de quel moment une organisation devient-elle incapable de revenir en arrière parce qu’elle a construit toute son activité autour de cet outil ? C’est là que la question de la puissance devient plus intéressante que celle de la conscience.
Un système n’a pas besoin d’être conscient pour être dangereux. Il suffit qu’il soit suffisamment puissant, suffisamment autonome et suffisamment intégré dans des infrastructures essentielles. Une erreur de jugement dans un chatbot n’a pas les mêmes conséquences qu’une erreur dans un système qui gère simultanément des milliers de transactions financières, des chaînes logistiques ou des infrastructures critiques. Le rapport international le dit avec une prudence remarquable : les capacités nécessaires à une perte de contrôle ne sont pas réunies aujourd’hui, mais plusieurs d’entre elles progressent, tandis que leur combinaison future demeure extrêmement incertaine.
Voilà la formulation que le débat public devrait retenir :
Pas « nous allons mourir ». Ni même « tout cela est absurde ». En réalité, nous ne savons pas encore.Et justement parce que nous ne savons pas, nous devons regarder très précisément ce que nous sommes en train de construire.
Alors, qui profite de la peur ?
La réponse n’est pas « les patrons de la tech ». Ce serait trop facile.
Certains entrepreneurs ont tout intérêt à ralentir certains concurrents. D’autres veulent au contraire accélérer. Certaines entreprises défendent des règles strictes, d’autres combattent les réglementations jugées trop contraignantes. Des chercheurs cherchent sincèrement à prévenir une catastrophe. Des gouvernements cherchent à éviter de perdre leur avance stratégique. Les investisseurs veulent savoir si les milliards placés dans le secteur produiront réellement quelque chose.
Le paysage est beaucoup plus conflictuel que le récit d’une industrie qui agirait d’une seule voix. Mais une chose est certaine : la peur crée du pouvoir. Elle donne de l’importance aux experts capables de la mesurer. Elle donne aux gouvernements une justification pour intervenir. Elle donne aux entreprises les mieux capitalisées un argument pour réclamer des standards élevés Elle donne aux spécialistes de la sécurité un marché. Elle donne aux médias une histoire extraordinairement efficace. Et elle donne aux dirigeants de la Silicon Valley une place nouvelle dans le débat politique : ils ne sont plus seulement ceux qui fabriquent la technologie. Ils deviennent ceux que les États doivent écouter pour savoir comment la contrôler.
C’est cette inversion qu’il faut surveiller. Car il existe quelque chose de profondément paradoxal dans le fait de confier aux fabricants d’une technologie une partie de la définition du danger qu’elle représente.
Et si la vraie question était ailleurs ?
Peut-être que nous posons mal la question depuis le début.
« L’IA peut-elle nous tuer ? » appelle une réponse presque impossible : oui, peut-être ; non, probablement pas ; personne ne peut savoir.
La question réellement politique est différente.
Qui décide de la vitesse à laquelle nous avançons ? Qui possède les infrastructures ? Qui finance les recherches ?Qui écrit les normes ? Qui contrôle les modèles ? Qui peut vérifier les affirmations des entreprises ? Qui possède les moyens de construire les prochains systèmes ? Et surtout : qui a intérêt à ce que la société considère que le problème est suffisamment dangereux pour justifier certaines règles, mais pas suffisamment dangereux pour arrêter la course ?
Cette dernière question est inconfortable parce qu’elle ne permet à personne de sortir proprement du tableau. Les catastrophistes ne sont pas nécessairement des manipulateurs. Les entreprises ne sont pas nécessairement cyniques. Les chercheurs ne sont pas nécessairement alarmistes. Les gouvernements ne sont pas nécessairement compétents. Et ceux qui minimisent le risque peuvent eux aussi avoir intérêt à le faire.
Le seul moyen de ne pas se faire raconter une histoire est donc de regarder derrière le récit. Derrière le mot « sécurité », regarder les budgets. Derrière les discours sur la catastrophe, regarder les investissements. Derrière les appels à la régulation, regarder les entreprises qui les portent. Derrière les prédictions d’extinction, regarder les méthodes qui permettent de les formuler. Et derrière chaque promesse de progrès, regarder qui possède la machine.
L’IA pourrait-elle un jour contribuer à une catastrophe d’une ampleur inimaginable ? Rien ne permet aujourd’hui de l’exclure, et suffisamment de chercheurs sérieux considèrent cette possibilité comme crédible pour qu’elle soit étudiée. Mais rien ne permet non plus d’affirmer que l’humanité est engagée sur une trajectoire inévitable vers sa propre disparition. Les systèmes actuels ne sont pas capables de prendre seuls le contrôle du monde, et les experts sont profondément divisés sur ce que les générations futures pourront réellement accomplir.
Entre ces deux certitudes faciles, il reste quelque chose de beaucoup plus intéressant : une technologie dont la puissance progresse plus vite que notre capacité à en mesurer les conséquences. C’est peut-être cela, au fond, qui devrait nous inquiéter. Pas l’idée enfantine d’une machine qui se réveillerait un matin avec l’envie de nous exterminer. Mais la possibilité beaucoup plus humaine que, fascinés par ce qu’elle est capable de faire, nous continuions à lui confier des morceaux de notre monde avant d’avoir décidé qui aurait le droit de dire stop.
