Anthropic veut stopper l'IA : 3 raisons pour lesquelles ça ne marchera pas

Anthropic tire le frein d'urgence. Le reste du monde regarde ailleurs.

Imaginez un coureur qui, au milieu d'un sprint effréné, se retourne vers ses adversaires et leur propose de s'arrêter tous ensemble. C'est, en substance, ce qu'Anthropic — la société créatrice de Claude — est en train de faire sur la scène mondiale de l'intelligence artificielle. La question n'est pas de savoir si l'intention est noble. Elle l'est. La vraie question est : est-ce seulement possible ?

Car pendant qu'Anthropic publie des appels à la prudence, OpenAI sort GPT-5, Google peaufine Gemini Ultra, et des dizaines de laboratoires chinois avancent à marche forcée. Le moratoire mondial sur l'IA ressemble à une idée séduisante sur le papier — et à un mirage dès qu'on regarde la réalité en face.

Que propose exactement Anthropic ?

Dario Amodei, cofondateur et PDG d'Anthropic, a été l'un des premiers à théoriser le risque dit "existentiel" de l'IA générale avancée (AGI). Sa société, fondée sur des principes de sécurité, plaide pour un cadre international de régulation strict, incluant potentiellement des pauses concertées dans le développement des modèles les plus puissants.

L'idée centrale : si tous les acteurs majeurs s'accordent simultanément à ralentir, aucun n'est pénalisé. On évite la course aux armements cognitifs. On se donne le temps d'auditer les risques. Sur le principe, c'est du bon sens. En pratique, c'est là que les choses se compliquent.

3 raisons concrètes pour lesquelles un moratoire mondial est quasi impossible

1. Le problème du passager clandestin

En économie, on appelle ça le free rider problem. Si tous les grands laboratoires occidentaux acceptent de faire une pause, qui garantit que des acteurs moins visibles — startups offshore, États non signataires, recherches militaires classifiées — respectent l'accord ? Personne. Un moratoire sans mécanisme de vérification universelle n'est pas un moratoire : c'est un avantage compétitif offert à ceux qui trichent.

2. La Chine n'est pas à la table des négociations

Les relations sino-américaines en matière de technologie sont au plus bas depuis des décennies. Pékin considère la domination de l'IA comme une priorité stratégique nationale, inscrite dans son plan quinquennal jusqu'en 2030. Baidu, Alibaba, Huawei investissent des milliards. Demander à la Chine de mettre en pause son développement, c'est lui demander de renoncer à ce qu'elle considère comme un levier de puissance géopolitique majeur. La réponse diplomatique sera polie. Le développement, lui, continuera.

3. Les marchés financiers ne font pas de pause

Nvidia a vu sa capitalisation boursière dépasser les 3 000 milliards de dollars. Des centaines de milliards sont aujourd'hui engagés dans l'infrastructure IA. Les investisseurs, les conseils d'administration, les actionnaires — tous attendent des résultats. Un moratoire volontaire dans ce contexte, c'est demander à des entreprises cotées d'agir contre l'intérêt de leurs actionnaires. Légalement et économiquement, c'est un terrain miné.

Alors, Anthropic a-t-il complètement tort ?

Non. Et c'est là où l'analyse doit être nuancée.

Même si un moratoire mondial complet est illusoire, la pression exercée par Anthropic — et par des voix comme celles de Geoffrey Hinton ou Yoshua Bengio — a déjà produit des effets concrets :

• L'AI Safety Act européen impose désormais des évaluations obligatoires pour les modèles à haut risque.
• Le AI Safety Institute britannique a été créé spécifiquement pour auditer les systèmes frontier.
• Aux États-Unis, un décret exécutif de 2023 contraint les développeurs de grands modèles à partager leurs résultats de sécurité avec le gouvernement avant déploiement.

Ce ne sont pas des moratoires. Mais c'est davantage que rien. Le discours de prudence d'Anthropic, même s'il ne stoppe pas la course, en ralentit certaines dérives les plus dangereuses.

Le vrai débat que personne ne veut avoir

Au fond, la proposition d'Anthropic soulève une question plus inconfortable encore : sommes-nous collectivement capables de renoncer à un avantage technologique au nom d'un risque que personne ne sait encore mesurer avec précision ?

L'histoire des technologies duales — nucléaire, biologique, cyber — montre que la réponse a presque toujours été non. Pas par malveillance, mais par structure systémique. Tant que l'IA est perçue comme un moteur de croissance et de puissance avant d'être perçue comme un risque existentiel, les injonctions à la pause resteront marginales.

Ce qu'il faudrait vraiment faire

Plutôt qu'un moratoire — mot qui paralyse les discussions avant même qu'elles commencent — plusieurs experts plaident pour une approche graduée :

• Des seuils de puissance computationnelle au-delà desquels tout entraînement nécessite une notification internationale.
• Des audits de sécurité tiers obligatoires, indépendants des entreprises développeuses.
• Un traité international partiel, à l'image des accords sur les armes chimiques, même imparfait, même non universel.

Ce n'est pas aussi ambitieux qu'un moratoire mondial. Mais c'est réalisable. Et dans un monde où Claude, GPT-5 et Gemini Ultra coexistent déjà, le réalisme vaut mieux que l'idéalisme paralysant.

Conclusion : respecter l'intention, questionner la méthode

Anthropic a le mérite rare, dans un secteur dominé par l'hubris, de dire à voix haute ce que beaucoup pensent tout bas : nous allons peut-être trop vite. C'est courageux. C'est nécessaire. Mais un moratoire mondial sans architecture d'application crédible reste, pour l'instant, davantage un signal moral qu'une politique viable.

La course à l'IA ne s'arrêtera pas sur un appel. Elle se régulera, si elle se régule, par des contraintes structurelles que les États et les marchés auront décidé d'imposer ensemble. Nous n'en sommes pas encore là. Et chaque jour qui passe sans cadre global rend la tâche un peu plus difficile.

— Reservoir Live