OpenAI efface des milliards de données. Voici ce qu'on vous cache.

Des milliards de données supprimées. Personne ne vous a demandé votre avis.

Pendant que vous utilisiez ChatGPT pour rédiger vos emails ou que Gemini vous aidait à planifier votre semaine, quelque chose d'autre se passait en coulisses. Des téraoctets de données — vos données, celles de millions d'internautes — étaient silencieusement détruits, modifiés ou rendus inaccessibles par les plus grandes entreprises d'intelligence artificielle de la planète. Non pas par obligation légale, mais par stratégie.

La destruction massive de données d'entraînement est l'un des angles morts les plus sous-estimés du débat sur l'IA. Et ce qui se joue ici dépasse largement la simple question technique.

Pourquoi les géants de l'IA détruisent-ils leurs propres données ?

Pour comprendre ce phénomène, il faut d'abord saisir ce que représentent les données d'entraînement. Ce sont les matières premières qui ont permis à des modèles comme GPT-4, Claude ou Mistral d'apprendre à écrire, raisonner et répondre. Des milliards de pages web, d'articles, de livres, de conversations — aspirés à grande échelle, souvent sans consentement explicite.

Alors pourquoi les supprimer ?

• La pression réglementaire : Le RGPD européen impose le droit à l'effacement. Lorsqu'une personne demande la suppression de ses données personnelles, les entreprises sont théoriquement obligées d'obtempérer — y compris dans les jeux d'entraînement.
• Les procès en cascade : Des auteurs, des journaux, des artistes attaquent en justice. The New York Times contre OpenAI, Getty Images contre Stability AI. Supprimer les données litigieuses devient une manœuvre défensive.
• La compétitivité : Un modèle entraîné sur des données "propres" et documentées est aujourd'hui un argument commercial. On efface pour reconstruire mieux — et surtout, pour rassurer.

Le problème : personne ne vérifie vraiment

Sur le papier, tout cela semble raisonnable. Dans la pratique, c'est une boîte noire quasi totale.

Aucune loi n'impose actuellement aux entreprises d'IA de prouver qu'elles ont supprimé des données. Les audits sont rares, souvent internes, et les résultats rarement publics. Quand OpenAI annonce avoir "retiré" certaines données de ses pipelines d'entraînement suite à une plainte, comment le vérifier ? La réponse courte : vous ne pouvez pas.

C'est ce qu'on appelle le problème de l'opacité structurelle. Les modèles sont des systèmes complexes, entraînés sur des corpus que même leurs créateurs peinent parfois à documenter exhaustivement. Une fois qu'un modèle a "absorbé" une information, la supprimer du dataset original ne l'efface pas du modèle. La connaissance reste, encodée dans des milliards de paramètres.

Des exemples concrets qui posent question

Prenons quelques cas documentés :

• Common Crawl : Cette immense base de données web, utilisée par presque tous les grands modèles, contient des données personnelles, des œuvres protégées, des contenus supprimés depuis longtemps par leurs auteurs originaux. Elle est mise à jour régulièrement — mais les anciennes versions persistent.
• Books3 : Ce dataset controversé, contenant des centaines de milliers de livres piratés, a été largement utilisé avant d'être retiré sous pression. Sauf que les modèles entraînés dessus existent toujours et sont déployés à grande échelle.
• Pile et RedPajama : Ces datasets open-source ont été partiellement nettoyés après des signalements. Mais "partiellement" est le mot clé — les chercheurs indépendants qui les ont analysés ont continué à y trouver des données problématiques longtemps après les annonces de nettoyage.

Ce que cela change pour vous, concrètement

Vous n'êtes pas un spectateur passif dans cette histoire. Vos contributions en ligne — vos posts Reddit, vos articles de blog, vos avis produits, parfois même vos emails si vous avez utilisé certains services — font partie de cet écosystème. Et la destruction de ces données a des effets bien réels :

• Des biais peuvent être amplifiés ou effacés selon les choix de nettoyage, sans transparence sur les critères retenus.
• Des communautés entières voient leur culture numérique effacée des modèles, parce qu'elle était jugée "trop risquée" à conserver.
• La traçabilité des erreurs devient impossible : si un modèle produit un biais ou une erreur factuelle, comment remonter à la source si les données ont été supprimées ?

Vers une gouvernance des données d'entraînement

La bonne nouvelle — si tant est qu'il y en ait une — c'est que la pression monte. L'AI Act européen, en cours de déploiement, impose aux fournisseurs de systèmes d'IA à haut risque une documentation plus rigoureuse de leurs données d'entraînement. Des initiatives comme Data Provenance Initiative tentent de cartographier l'origine des datasets utilisés par les grands modèles.

Mais ces efforts restent marginaux face à la vitesse à laquelle les modèles évoluent. Pendant qu'une réglementation se construit, trois nouvelles versions de GPT, Claude ou Llama auront déjà été entraînées.

La vraie question n'est pas technique

Au fond, la destruction massive de données d'entraînement soulève une question bien plus fondamentale : qui décide de ce que les IA savent — et de ce qu'elles oublient ?

Aujourd'hui, cette décision appartient à une poignée d'entreprises privées, avec peu de contre-pouvoirs, peu de transparence, et des motivations qui mêlent éthique sincère et calcul stratégique. Ce n'est pas une critique en soi — mais c'est un fait que chaque utilisateur d'IA gagnerait à intégrer.

La prochaine fois que Claude vous donnera une réponse, que ChatGPT résumera un article ou que Gemini analysera vos données, souvenez-vous : derrière cette interface fluide se cache une architecture de choix que personne ne vous a jamais demandé de valider.

— Reservoir Live