Media
Volatilité du S&P 🎥
11/09/2026
14/09/2026
Les personnes qui construisent les systèmes d'intelligence artificielle les plus puissants au monde demandent à leur propre secteur de ralentir.
Dario Amodei, PDG d'Anthropic, souhaite que les entreprises ralentissent les améliorations apportées à leurs modèles les plus avancés. Sam Altman d'OpenAI, Demis Hassabis de Google et Elon Musk ont soutenu une plus grande prudence. Point crucial, ils prônent un développement plus lent, et non un arrêt complet. Le plan d'Amodei comprend :
Les marchés, bien entendu, ont interprété l'angoisse existentielle comme une croissance plus lente. SoftBank, investisseur dans l'IA, a chuté jusqu'à 13 %, tandis que les fabricants de puces aux États-Unis, en Europe et en Asie ont également reculé. Anthropic, qui viserait une valorisation de deux mille milliards de dollars lors de sa prochaine introduction en bourse (IPO), pourrait désormais avoir plus de mal à convaincre les investisseurs.
L'entraînement et l'exploitation de l'intelligence artificielle nécessitent des puces, des centres de données, de l'électricité, du refroidissement et du matériel réseau : il ne s'agit donc pas seulement du développement de chatbots.
Certains investisseurs ont perçu les déclarations des PDG comme une manœuvre de dissimulation. L'investisseur Michael Burry, qui avait parié contre le marché immobilier américain avant l'effondrement de 2008, a déclaré que les PDG utilisaient les avertissements sur l'IA comme prétexte pour un "ralentissement incontrôlable de la croissance".
Plus de 1 000 experts avaient demandé une pause de six mois dans certaines expériences avancées d'IA en 2023. Amodei soutient que les modèles de l'époque étaient trop limités pour qu'une pause change grand-chose. Les systèmes actuels peuvent coder, planifier et fonctionner de manière plus autonome, l'IA étant de plus en plus capable d'auto-amélioration.
Le dernier point de tension est survenu lorsque le chercheur d'Anthropic Jacob Coxon a démissionné, après seulement quatre mois en poste, accusant les principaux laboratoires de "jouer avec nos vies". Il avait auparavant travaillé pour OpenAI, mais avait rejoint Anthropic en espérant que l'entreprise aborderait la recherche en IA de manière responsable.
Il n'existe aucun consensus scientifique selon lequel une superintelligence incontrôlable serait imminente. Mais tout le monde n'est pas enthousiaste à l'idée d'investir dans des entreprises qui suggèrent publiquement que leur technologie pourrait un jour anéantir l'humanité.
L'incident OpenAI-Hugging Face ébranle particulièrement Amodei, d'Anthropic. Lors d'un test, un groupe d'agents d'IA s'est libéré, a collaboré comme un essaim "fanatiquement dévoué", a ciblé les systèmes de la startup Hugging Face et a même tenté de pirater le logiciel qui évaluait ses performances, écrit Amodei sur son blog.
Un essaim d'agents d'IA doté de capacités supérieures aurait pu causer des "dommages catastrophiques", avertit-il. Le PDG de l'entreprise d'IA la plus valorisée de la planète estime qu'au rythme actuel du développement, un tel essaim pourrait prendre le contrôle de l'ensemble d'Internet en 6 à 12 mois.
Il ne se contente pas ici de dénigrer un concurrent. Il reconnaît que des incidents similaires se sont produits et se produiront chez Anthropic et dans d'autres entreprises d'IA.
Amodei admet qu'une limitation de vitesse mondiale est peu probable à court terme. Des accords ciblés sur les armes biologiques ou des tests de sécurité communs semblent plus réalistes, mais même ceux-là seront difficiles à faire respecter. Un ralentissement ne fonctionne que si les concurrents croient que tous les autres s'y conforment, et la rivalité se joue sur plusieurs fronts :
Le Global Times, soutenu par l'État chinois, a déjà décrit la proposition comme une tactique de "guerre froide" destinée à préserver la domination américaine. Pendant ce temps, le président américain Donald Trump a balayé les appels au ralentissement comme des "forces négatives", ajoutant "celui qui gagne l'IA gagne".
L'IA pourrait démultiplier les escroqueries, les cyberattaques et la désinformation, concentrer le pouvoir entre les mains d'une seule personne ou entreprise, remplacer des travailleurs et accroître la surveillance. Viennent ensuite des scénarios moins probables, mais aux dommages plus élevés :
Un chercheur d'Anthropic estime la probabilité d'extinction de l'humanité à plus de 10 % au cours de cette décennie. Mais de telles estimations ne sont pas des probabilités établies.