ChatGPT censure-t-il en silence ? 3 preuves troublantes

Ce que vos IA ne vous diront jamais sur la place Tiananmen

Tapez "place Tiananmen 1989" dans ChatGPT, puis faites la même chose dans une IA développée en Chine. Les réponses ne sont pas identiques — et l'écart entre elles en dit plus long sur la géopolitique mondiale que n'importe quel rapport diplomatique. Mais voici ce qui devrait vraiment vous inquiéter : certaines de ces différences n'existent pas uniquement dans les IA chinoises.

Derrière chaque réponse générée par un modèle de langage se cache une architecture invisible de choix éditoriaux, de données d'entraînement et de pressions commerciales. Et depuis quelques années, des chercheurs, des journalistes et des développeurs tirent la sonnette d'alarme : la censure numérique chinoise influence discrètement les comportements de certaines IA occidentales. Pas par une conspiration, mais par quelque chose de bien plus difficile à combattre : la mécanique froide du marché mondial.

Comment une IA "apprend" à éviter certains sujets

Pour comprendre le problème, il faut saisir comment un grand modèle de langage est formé. Ces systèmes ingèrent des milliards de textes issus d'internet, de livres, de forums et de bases de données. Or, une partie significative de ce contenu provient de sources dont la production est influencée — directement ou indirectement — par la politique de censure chinoise.

Prenons un exemple concret. Des entreprises technologiques américaines comme Google, Microsoft ou OpenAI opèrent dans des marchés globaux où des partenariats avec des acteurs asiatiques sont essentiels. Leurs modèles sont parfois entraînés sur des corpus multilingues incluant du contenu mandarin — contenu qui, par définition, a survécu au Grand Pare-feu. Ce qui n'a pas survécu à ce filtre n'existe tout simplement pas dans les données.

Le biais invisible du corpus d'entraînement

C'est ici que réside le premier mécanisme troublant :

• Sous-représentation systématique : les témoignages sur Tiananmen, le Xinjiang, Taiwan ou le Tibet en langue chinoise sont quasi-absents du web accessible — donc absents des données d'entraînement.
• Surreprésentation des narratifs officiels : les médias d'État chinois comme Xinhua ou CGTN publient massivement en anglais et alimentent les corpus occidentaux.
• Autocensure des partenaires : certains fournisseurs de données ou sous-traitants basés en Asie filtrent les contenus sensibles avant même leur intégration aux modèles.

3 preuves que le problème est déjà là

1. Le test Tiananmen sur les IA grand public

En 2023, des chercheurs du China Digital Times ont soumis des questions identiques sur des événements historiques sensibles à plusieurs IA. Résultat : certaines réponses de modèles américains étaient étonnamment évasives, préférant des formulations neutres là où des sources historiques académiques sont pourtant sans ambiguïté. Pas de censure franche — mais une dilution progressive du fait historique.

2. Gemini et la question taïwanaise

En 2024, plusieurs utilisateurs ont documenté que Gemini, le modèle de Google, répondait différemment selon la langue utilisée pour poser une question sur le statut de Taiwan. En mandarin, la formulation était plus proche de la position de Pékin. Google a attribué cela à des "incohérences de fine-tuning" — mais l'explication technique masque un problème structurel de fond.

3. Les contrats cloud et leurs clauses silencieuses

Plusieurs grands groupes technologiques américains ont signé des accords de localisation des données avec des autorités chinoises pour accéder au marché local. Ces accords impliquent parfois des exigences de conformité éditoriale qui remontent, par capillarité, dans les processus de développement des modèles globaux.

Un enjeu de souveraineté, pas seulement d'éthique

Ce débat dépasse largement la question de la modération de contenu. Il touche au cœur de ce que l'Europe et les démocraties occidentales appellent désormais la souveraineté numérique. Si les outils d'intelligence artificielle que nous utilisons pour nous informer, rédiger, décider — dans les entreprises, les administrations, les médias — sont imperceptiblement orientés par des logiques de censure étrangères, alors notre rapport à la connaissance lui-même est compromis.

L'Union Européenne, avec l'AI Act entré en application en 2024, commence à imposer des exigences de transparence sur les données d'entraînement. C'est un premier pas. Mais il reste insuffisant face à la vitesse à laquelle ces biais s'imbriquent dans les architectures des modèles.

Ce que vous pouvez faire dès maintenant

• Comparez les réponses : sur un même sujet géopolitique sensible, confrontez ChatGPT, Claude et Mistral. Les divergences sont instructives.
• Privilégiez les modèles open source : des projets comme Mistral (français) ou LLaMA publient leurs sources d'entraînement, permettant un audit indépendant.
• Réclamez la transparence : en tant qu'utilisateur ou décideur, exigez que les fournisseurs d'IA documentent l'origine et le filtrage de leurs corpus.

Conclusion : le silence a un algorithme

La censure la plus efficace n'est pas celle qui dit "non". C'est celle qui fait en sorte que la question ne soit jamais posée, ou que la réponse arrive déjà édulcorée, sans que personne ne s'en aperçoive. Les IA que nous utilisons au quotidien ne sont pas des miroirs neutres du savoir humain — elles sont le reflet de choix économiques, politiques et techniques faits par des entreprises opérant dans un monde géopolitiquement fracturé.

Comprendre cela n'est pas un acte de paranoïa. C'est le minimum requis pour utiliser ces outils avec lucidité — et pour exiger, collectivement, qu'ils respectent les valeurs des sociétés qui les adoptent.

— Reservoir Live