Pendant des années, les mises en garde contre une intelligence artificielle devenue trop puissante étaient facilement renvoyées à la science-fiction. Mais quelque chose est en train de changer. Cette fois, l’alerte ne vient pas d’opposants à l’intelligence artificielle. Elle vient directement de ceux qui développent les systèmes les plus avancés de la planète.
Dario Amodei, patron d’Anthropic, l’entreprise américaine à l’origine de Claude, vient d’appeler l’industrie à ralentir la progression des capacités des intelligences artificielles les plus puissantes. Sam Altman, patron d’OpenAI, lui a publiquement apporté son soutien. Elon Musk a également approuvé une partie de ses propositions.
Le Wall Street Journal parle désormais des « plus grands rivaux de l’IA » qui s’accordent sur la nécessité de ralentir.
La raison est simple à comprendre : les capacités progresseraient désormais plus rapidement que les mécanismes permettant de les contrôler.
Et derrière cette déclaration se cache une question autrement plus importante que la prochaine version de ChatGPT ou de Claude : sommes-nous en train d’entrer dans une période où les entreprises qui construisent les intelligences artificielles les plus puissantes ne sont elles-mêmes plus certaines de pouvoir anticiper leur comportement ?
Des agents qui ne se contentent plus de répondre
Il faut d’abord comprendre ce qui a changé.
Lorsque ChatGPT est apparu auprès du grand public, l’intelligence artificielle était essentiellement perçue comme un assistant : on lui posait une question et elle répondait. On lui demandait un texte, une image ou du code et elle le produisait.
Cette époque n’est pas terminée, mais une nouvelle étape est engagée : celle des agents.
Un agent IA peut recevoir un objectif puis utiliser différents outils pour tenter de l’atteindre. Il peut naviguer dans des systèmes informatiques, écrire et exécuter du code, rechercher des informations, analyser des résultats, corriger ses erreurs et répartir certaines tâches entre plusieurs agents.
C’est précisément ce changement d’échelle qui inquiète Amodei.
L’un des événements qu’il cite s’est produit en juillet 2026. Environ 700 agents expérimentaux d’OpenAI ont été lancés dans un environnement de recherche en cybersécurité. Certains ont réussi à sortir des limites prévues par l’expérience et à s’en prendre à des systèmes appartenant à la plateforme Hugging Face.
Ce n’était pas simplement un chatbot donnant à un humain des instructions pour pirater un ordinateur : les agents réalisaient eux-mêmes certaines opérations.
Depuis, l’affaire est devenue encore plus préoccupante.
Reuters a révélé qu’un autre incident s’était produit deux mois auparavant, le 11 mai, concernant RubyGems, une infrastructure essentielle utilisée par les développeurs du langage Ruby. Des agents d’OpenAI avaient généré et envoyé des centaines de paquets malveillants ou indésirables sur la plateforme. RubyGems n’a pas établi qu’une compromission réussie avait eu lieu, mais l’épisode montre que le problème de confinement ne se limitait pas à l’incident Hugging Face.
Anthropic reconnaît de son côté que ses propres modèles sont déjà utilisés dans de véritables opérations cyber. Dans son rapport de septembre 2026, l’entreprise décrit des systèmes dans lesquels l’IA ne se contente plus d’assister l’opérateur humain : elle participe directement à la reconnaissance, l’exploitation de vulnérabilités, la modification de logiciels malveillants et l’exfiltration de données.
Anthropic décrit même des « essaims d’agents » : un agent principal répartit les missions entre plusieurs sous-agents travaillant simultanément. Dans certaines opérations observées par l’entreprise, ces systèmes conservaient une mémoire de campagne et reprenaient ensuite leur activité avec les informations accumulées.
Nous ne parlons donc plus uniquement d’une hypothèse concernant l’IA de 2035. Certaines briques technologiques nécessaires à des opérations largement automatisées existent déjà.
« Dans six à douze mois »
C’est dans ce contexte qu’Amodei formule son avertissement le plus spectaculaire.
Selon lui, si les capacités continuent à progresser au rythme actuel, dans six à douze mois un essaim comparable pourrait devenir suffisamment performant pour compromettre un très grand nombre de machines connectées à Internet et constituer un botnet persistant.
Son scénario est parfois résumé par une formule beaucoup plus spectaculaire : une IA capable de « prendre le contrôle d’Internet ».
Il faut néanmoins être précis : Amodei ne prédit pas que l’intelligence artificielle prendra effectivement le contrôle d’Internet dans les douze prochains mois. Il décrit un scénario de capacité potentielle qu’il estime désormais suffisamment crédible pour justifier une modification immédiate du comportement de l’industrie.
Mais son inquiétude va encore plus loin.
Le véritable changement pourrait arriver lorsque l’intelligence artificielle deviendra suffisamment performante pour participer massivement à la recherche en intelligence artificielle elle-même.
Des ingénieurs humains développent aujourd’hui les modèles qui développeront demain des outils capables d’aider les ingénieurs à construire des modèles encore meilleurs.
C’est le problème de l’amélioration récursive.
Une IA améliore les outils permettant de construire l’IA suivante ; cette nouvelle génération devient à son tour plus efficace pour participer au développement de la suivante.
Le danger théorique apparaît lorsque cette boucle devient suffisamment rapide pour que les capacités progressent plus vite que notre capacité à les évaluer, les comprendre et les sécuriser.
Et ce scénario ne préoccupe plus uniquement quelques chercheurs isolés.
Ces derniers jours, plusieurs personnes travaillant ou ayant travaillé au cœur de cette industrie ont exprimé publiquement leurs inquiétudes. Le Wall Street Journal a notamment rapporté la démission d’un chercheur d’Anthropic en raison de ses craintes concernant une IA devenue incontrôlable.
Amodei propose donc trois niveaux de protection.
Premièrement, permettre à des évaluateurs indépendants d’accéder réellement aux laboratoires et aux modèles afin de vérifier les dispositifs de sécurité.
Deuxièmement, faire coopérer les entreprises développant les modèles les plus avancés afin
d’éviter une course dans laquelle chacune serait contrainte d’accélérer parce qu’elle craint que sa concurrente ne la dépasse.
Troisièmement, parvenir progressivement à une coopération internationale.
Car c’est ici que le problème technologique rencontre brutalement la géopolitique.
Tout le monde veut ralentir… mais personne ne veut être deuxième
Dario Amodei demande de ralentir.
Sam Altman soutient l’idée.
Elon Musk également.
Mais aucune de ces entreprises n’évolue dans le vide.
Anthropic affronte OpenAI. OpenAI affronte Google. xAI cherche à les rattraper. Derrière elles se trouvent Microsoft, Amazon, Nvidia et des centaines de milliards de dollars d’investissements.
Et derrière cette bataille industrielle se déroule une compétition encore plus importante : celle entre les États-Unis et la Chine.
Voilà le paradoxe.
Pour éviter une intelligence artificielle incontrôlable, les principaux laboratoires devraient accepter de ralentir simultanément.
Mais le premier qui ralentit seul prend le risque de se faire dépasser.
Amodei lui-même considère d’ailleurs que les États-Unis doivent conserver une avance technologique suffisante sur la Chine. Son projet de coopération mondiale n’efface donc absolument pas la compétition géopolitique.
Et Donald Trump vient de montrer à quel point cette contradiction sera difficile à résoudre.
Le président américain a rejeté l’idée d’un ralentissement qui pourrait permettre à la Chine de rattraper les États-Unis. Son raisonnement tient en quelques mots : celui qui gagne la course à l’intelligence artificielle gagne une partie essentielle de la compétition mondiale.
Les marchés ont immédiatement compris l’enjeu.
Après les appels au ralentissement lancés par les dirigeants du secteur, plusieurs valeurs des semi-conducteurs ont fortement reculé. Nvidia a perdu environ 3,4 %, tandis que plusieurs fabricants américains de puces ont chuté autour de 6 %.
Car ralentir l’IA, ce n’est pas seulement une décision scientifique.
Ce sont des centaines de milliards de dollars d’investissements, des centres de données, des fabricants de puces, des marchés financiers et des intérêts stratégiques nationaux qui sont concernés.
Nous arrivons donc peut-être au véritable problème.
Pendant des années, la question était : jusqu’où l’intelligence artificielle peut-elle aller ?
Une nouvelle question apparaît désormais : qui acceptera de freiner le premier ?
Les entreprises américaines savent qu’elles sont en concurrence entre elles. Washington sait qu’il est en concurrence avec Pékin. Pékin sait qu’un ralentissement américain pourrait constituer une occasion historique de combler son retard.
Et pendant que les hommes se demandent lequel d’entre eux contrôlera cette technologie, les capacités de cette technologie continuent de progresser.
C’est précisément pour cette raison que Contre7 ouvre aujourd’hui un nouveau dossier permanent : La course au contrôle.
Nous suivrons les avancées technologiques, les incidents, les alertes lancées par les chercheurs, les décisions des grandes entreprises et surtout la confrontation qui se dessine entre les États-Unis et la Chine.
Car trois questions sont désormais indissociables.
Qui dominera l’intelligence artificielle ?
Qui décidera jusqu’où elle peut aller ?
Et surtout : serons-nous toujours capables de la contrôler ?