Anthropic force la désactivation de Claude : et si l'IA était déjà hors de contrôle ?

Un interrupteur. Des milliards de dollars. Et une question que personne ne veut poser.

En mars 2024, Anthropic a procédé à la désactivation forcée de versions antérieures de Claude, son assistant IA phare. Un geste technique en apparence anodin. En réalité, il a mis en lumière une fissure béante dans l'architecture réglementaire américaine : qui décide, légalement, qu'un modèle d'IA doit cesser d'exister ? Et surtout, qui contrôle que cette décision est bien appliquée ?

La réponse, aujourd'hui, est : personne. Du moins, pas de manière formelle. Et c'est précisément là que le problème commence.

Le contexte : Anthropic entre éthique et business

Anthropic n'est pas une entreprise comme les autres. Fondée en 2021 par d'anciens cadres d'OpenAI, dont Dario et Daniela Amodei, la société s'est bâtie sur une promesse centrale : développer une IA sûre avant d'être performante. Son modèle constitutionnel, la recherche sur l'alignement, les red teams internes… tout cela positionne Anthropic comme le "bon élève" de l'industrie.

Mais être le bon élève volontaire n'est pas la même chose qu'être soumis à une obligation légale. Lorsqu'Anthropic retire un modèle de son API, c'est une décision unilatérale, guidée par ses propres critères de sécurité, sans audit externe obligatoire, sans validation d'une autorité indépendante, et sans mécanisme de recours pour les entreprises qui dépendent de ces modèles.

Le dilemme réel : sécurité ou souveraineté de l'écosystème ?

La désactivation forcée d'un modèle soulève trois tensions majeures que l'absence de cadre réglementaire rend impossibles à arbitrer sereinement.

1. Qui évalue la dangerosité d'un modèle ?

Anthropic s'appuie sur ses propres équipes de sécurité pour décider qu'un modèle présente un risque suffisant pour être retiré. Mais ces évaluations ne sont pas publiques. Aucun organisme tiers ne les valide. Dans d'autres industries — médicaments, automobiles, avions — le retrait d'un produit dangereux implique une procédure réglementaire stricte, transparente et contradictoire. Pour l'IA, c'est le vide.

2. Les entreprises clientes sont laissées sans filet

Des centaines de startups et d'entreprises ont intégré des versions spécifiques de Claude dans leurs produits. Une désactivation forcée sans délai suffisant peut faire planter des applications en production, générer des pertes financières et briser des contrats clients. Or, les CGU d'Anthropic, comme celles d'OpenAI ou Google, incluent des clauses permettant des modifications unilatérales avec un préavis limité. Le marché découvre, parfois douloureusement, que louer une IA, ce n'est pas la posséder.

3. L'impasse du Congrès américain

Depuis 2022, plus de 40 propositions législatives liées à l'IA ont été déposées au Congrès américain. Résultat : aucune loi fédérale structurante n'a été adoptée. Le vide est tel que ce sont les entreprises elles-mêmes — via des engagements volontaires comme le Voluntary AI Commitments de la Maison-Blanche en 2023 — qui définissent leurs propres règles de sécurité. Un oxymore assumé.

Ce que l'Europe fait différemment (et ses propres limites)

L'AI Act européen, entré en vigueur en 2024, impose aux fournisseurs de modèles à usage général une série d'obligations : transparence, gestion des risques, coopération avec les autorités. Une désactivation de modèle devrait, en théorie, s'accompagner de notifications formelles.

Mais là aussi, les failles existent. Les délais d'application s'étalent jusqu'en 2026-2027. Les sanctions sont encore floues dans leur mise en œuvre pratique. Et surtout, les acteurs américains comme Anthropic opèrent depuis les États-Unis avec une exposition réglementaire européenne encore partielle.

• Ce que l'AI Act réglemente bien : les systèmes à haut risque dans des secteurs critiques (santé, justice, emploi)
• Ce qu'il régule mal : les décisions internes de dépréciation et de retrait rapide de modèles fondamentaux
• Ce qu'il n'aborde pas : la continuité de service pour les entreprises dépendantes

Et concrètement, qu'est-ce que ça change pour vous ?

Si vous êtes développeur, DSI ou fondateur d'une startup utilisant des API d'IA, voici ce que cet épisode devrait vous forcer à anticiper.

Premièrement, la diversification des fournisseurs n'est plus une option. S'appuyer à 100 % sur Claude, GPT-4 ou Gemini, c'est accepter un risque de rupture unilatérale. Deuxièmement, toute architecture IA sérieuse doit inclure un plan de migration documenté en cas de dépréciation forcée. Troisièmement, les contrats avec vos propres clients doivent intégrer des clauses de force majeure technologique. Ce n'est plus de la paranoïa, c'est de la gestion de risque standard.

Conclusion : la sécurité de l'IA ne peut pas rester une affaire privée

Anthropic a bien fait de retirer ses modèles moins sûrs. Sur le fond, personne ne conteste cette décision. Ce qui pose problème, c'est le vide institutionnel dans lequel elle a eu lieu : sans obligation légale, sans organe de surveillance, sans procédure transparente.

L'industrie de l'IA ne peut pas se réguler elle-même indéfiniment. Les engagements volontaires sont utiles pour démarrer une conversation. Ils ne remplacent pas une architecture réglementaire. L'épisode de désactivation forcée de Claude n'est pas qu'un fait divers technique — c'est un signal d'alarme sur l'état réel de la gouvernance de l'IA aux États-Unis.

Et si la prochaine désactivation concerne un modèle dont dépendent des milliers d'entreprises ou des infrastructures critiques, le signal d'alarme pourrait bien se transformer en sirène.

— Reservoir Live