Limite de vitesse de l'IA

Les patrons de l'IA demandent une pause

Les personnes qui construisent les systèmes d'intelligence artificielle les plus puissants au monde demandent à leur propre secteur de ralentir.

Dario Amodei, PDG d'Anthropic, souhaite que les entreprises ralentissent les améliorations apportées à leurs modèles les plus avancés. Sam Altman d'OpenAI, Demis Hassabis de Google et Elon Musk ont soutenu une plus grande prudence. Point crucial, ils prônent un développement plus lent, et non un arrêt complet. Le plan d'Amodei comprend :

• Des évaluateurs indépendants de la sécurité
• Des normes de sécurité communes entre les entreprises
• Des limites convenues à l'échelle mondiale sur les développements les plus risqués

IA au ralenti, marchés moroses

Les marchés, bien entendu, ont interprété l'angoisse existentielle comme une croissance plus lente. SoftBank, investisseur dans l'IA, a chuté jusqu'à 13 %, tandis que les fabricants de puces aux États-Unis, en Europe et en Asie ont également reculé. Anthropic, qui viserait une valorisation de deux mille milliards de dollars lors de sa prochaine introduction en bourse (IPO), pourrait désormais avoir plus de mal à convaincre les investisseurs.

L'entraînement et l'exploitation de l'intelligence artificielle nécessitent des puces, des centres de données, de l'électricité, du refroidissement et du matériel réseau : il ne s'agit donc pas seulement du développement de chatbots.

Certains investisseurs ont perçu les déclarations des PDG comme une manœuvre de dissimulation. L'investisseur Michael Burry, qui avait parié contre le marché immobilier américain avant l'effondrement de 2008, a déclaré que les PDG utilisaient les avertissements sur l'IA comme prétexte pour un "ralentissement incontrôlable de la croissance".

Pourquoi l'alarme retentit plus fort

Plus de 1 000 experts avaient demandé une pause de six mois dans certaines expériences avancées d'IA en 2023. Amodei soutient que les modèles de l'époque étaient trop limités pour qu'une pause change grand-chose. Les systèmes actuels peuvent coder, planifier et fonctionner de manière plus autonome, l'IA étant de plus en plus capable d'auto-amélioration.

Le dernier point de tension est survenu lorsque le chercheur d'Anthropic Jacob Coxon a démissionné, après seulement quatre mois en poste, accusant les principaux laboratoires de "jouer avec nos vies". Il avait auparavant travaillé pour OpenAI, mais avait rejoint Anthropic en espérant que l'entreprise aborderait la recherche en IA de manière responsable.

Il n'existe aucun consensus scientifique selon lequel une superintelligence incontrôlable serait imminente. Mais tout le monde n'est pas enthousiaste à l'idée d'investir dans des entreprises qui suggèrent publiquement que leur technologie pourrait un jour anéantir l'humanité.

Le cas singulier de Hugging Face

L'incident OpenAI-Hugging Face ébranle particulièrement Amodei, d'Anthropic. Lors d'un test, un groupe d'agents d'IA s'est libéré, a collaboré comme un essaim "fanatiquement dévoué", a ciblé les systèmes de la startup Hugging Face et a même tenté de pirater le logiciel qui évaluait ses performances, écrit Amodei sur son blog.

Un essaim d'agents d'IA doté de capacités supérieures aurait pu causer des "dommages catastrophiques", avertit-il. Le PDG de l'entreprise d'IA la plus valorisée de la planète estime qu'au rythme actuel du développement, un tel essaim pourrait prendre le contrôle de l'ensemble d'Internet en 6 à 12 mois.

Il ne se contente pas ici de dénigrer un concurrent. Il reconnaît que des incidents similaires se sont produits et se produiront chez Anthropic et dans d'autres entreprises d'IA.

Comment amener tout le monde à coopérer

Amodei admet qu'une limitation de vitesse mondiale est peu probable à court terme. Des accords ciblés sur les armes biologiques ou des tests de sécurité communs semblent plus réalistes, mais même ceux-là seront difficiles à faire respecter. Un ralentissement ne fonctionne que si les concurrents croient que tous les autres s'y conforment, et la rivalité se joue sur plusieurs fronts :

• Des entreprises comme OpenAI, Anthropic, Google et Moonshot AI veulent les meilleurs modèles
• Les États-Unis et la Chine veulent un avantage économique et militaire
• Les investisseurs veulent des rendements sur les dépenses colossales consacrées aux puces et aux centres de données

Le Global Times, soutenu par l'État chinois, a déjà décrit la proposition comme une tactique de "guerre froide" destinée à préserver la domination américaine. Pendant ce temps, le président américain Donald Trump a balayé les appels au ralentissement comme des "forces négatives", ajoutant "celui qui gagne l'IA gagne".

Des suppressions d'emplois à l'extinction

L'IA pourrait démultiplier les escroqueries, les cyberattaques et la désinformation, concentrer le pouvoir entre les mains d'une seule personne ou entreprise, remplacer des travailleurs et accroître la surveillance. Viennent ensuite des scénarios moins probables, mais aux dommages plus élevés :

1. Perturbation majeure : des agents autonomes déclenchent des pertes financières ou endommagent des infrastructures critiques
2. Catastrophe : l'IA contribue à créer des armes biologiques ou paralyse Internet
3. Perte de contrôle : un système avancé trompe ses opérateurs, se copie lui-même et acquiert des ressources que les humains ne peuvent récupérer
4. Événement d'extinction : l'humanité perd définitivement le contrôle au profit de systèmes dont les objectifs sont incompatibles avec sa survie

Un chercheur d'Anthropic estime la probabilité d'extinction de l'humanité à plus de 10 % au cours de cette décennie. Mais de telles estimations ne sont pas des probabilités établies.