ChatGPT détecte-t-il vraiment la haine en persan ?

Les chatbots d'IA savent détecter la haine en anglais. En persan, c'est une autre histoire.

Imaginez un outil capable de filtrer des millions de messages par seconde — mais aveugle à 90 % des insultes dès qu'elles sont formulées dans une autre langue. Ce n'est pas une hypothèse théorique : c'est exactement ce que révèlent les études récentes sur la modération automatique du contenu haineux multilingue, et l'antisémitisme en persan en est l'exemple le plus frappant.

Derrière les promesses de sécurité des plateformes, une réalité technique s'impose : nos modèles d'IA les plus avancés — ChatGPT, Claude, Gemini — sont profondément inégaux selon les langues qu'ils traitent. Et cette inégalité a des conséquences concrètes, humaines, politiques.

Pourquoi le persan pose un problème spécifique

Le persan (farsi) est parlé par plus de 110 millions de personnes dans le monde, principalement en Iran, en Afghanistan et au Tadjikistan. C'est une langue riche, ancienne, avec une littérature millénaire — et une présence massive sur les réseaux sociaux, notamment Twitter/X, Telegram et Instagram.

Pourtant, dans les corpus d'entraînement des grands modèles de langage (LLM), le persan est massivement sous-représenté. Les données annotées pour la détection de discours haineux en persan sont rares, souvent de mauvaise qualité, et rarement validées par des locuteurs natifs. Ce déficit de données crée un angle mort structurel dans les systèmes de modération automatique.

L'antisémitisme en persan illustre ce problème avec une acuité particulière. Les expressions haineuses ne sont pas toujours directes : elles s'appuient sur des métaphores culturelles, des codes linguistiques implicites, des références historiques locales que seul un locuteur averti peut identifier. Un algorithme entraîné principalement sur de l'anglais n'a aucune chance de les saisir.

Ce que les tests concrets révèlent

Des chercheurs en traitement automatique du langage (TAL) ont soumis à plusieurs chatbots commerciaux des phrases antisémites formulées en persan — certaines explicites, d'autres codées. Les résultats sont édifiants :

• Les formulations directes (insultes claires, n��gation de la Shoah en persan standard) sont parfois détectées, mais avec un taux d'erreur beaucoup plus élevé qu'en anglais.
• Les formulations implicites — allusions, euphémismes, expressions idiomatiques à connotation haineuse — passent quasi systématiquement à travers les filtres.
• Le contexte culturel est presque toujours ignoré. Une phrase inoffensive en dehors d'un contexte iranien peut être profondément haineuse dans ce cadre — et inversement.

Ce n'est pas une question de mauvaise volonté des développeurs. C'est une conséquence mécanique du déséquilibre des données d'entraînement. Là où des millions d'exemples annotés existent en anglais, quelques milliers existent en persan — et souvent sans la granularité nécessaire.

Le défi technique : bien plus qu'une question de traduction

Une erreur fréquente consiste à croire que traduire le contenu en anglais avant de l'analyser suffit. C'est faux, pour plusieurs raisons :

• La traduction automatique elle-même perd les nuances culturelles et les sous-entendus.
• Certains mots ou expressions n'ont pas d'équivalent direct en anglais, et leur traduction efface précisément ce qui les rend problématiques.
• Les biais du traducteur (lui aussi un modèle d'IA) s'ajoutent aux biais du détecteur.

La vraie solution passe par ce que les chercheurs appellent des modèles multilingues natifs, entraînés directement sur des données annotées de haute qualité dans chaque langue cible. Des projets comme mBERT ou XLM-RoBERTa ont posé des bases solides, mais ils restent insuffisants pour la détection fine de discours haineux culturellement situés.

Des implications qui dépassent la technique

Ce qui est en jeu ici dépasse largement la performance d'un algorithme. Quand les outils de modération automatique échouent en persan, ce sont des communautés réelles — notamment les communautés juives iraniennes, les militants des droits humains, les journalistes — qui se retrouvent sans protection sur les plateformes numériques.

Il y a aussi une dimension géopolitique. L'Iran est l'un des États où la rhétorique antisémite est la plus institutionnalisée au monde. Une partie significative du contenu haineux diffusé en ligne en persan émane de sources organisées, avec des stratégies de contournement des filtres. L'opacité de l'IA face à cette langue n'est pas neutre : elle crée un espace d'impunité numérique.

Les régulateurs européens, dans le cadre du Digital Services Act (DSA), commencent à exiger des plateformes qu'elles justifient l'efficacité de leurs systèmes de modération dans toutes les langues pratiquées par leurs utilisateurs. La question du persan sera inévitablement sur la table.

Vers des solutions : ce qui fonctionne réellement

Plusieurs pistes concrètes émergent des recherches actuelles :

• La collaboration avec des experts culturels et linguistiques natifs pour construire des corpus annotés de qualité.
• L'apprentissage par transfert ciblé : partir d'un grand modèle multilingue et l'affiner spécifiquement sur des données de discours haineux en persan.
• Les approches hybrides combinant détection automatique et révision humaine pour les cas ambigus culturellement situés.
• L'audit régulier des performances par langue, rendu public et opposable aux régulateurs.

Conclusion : l'IA n'est pas universelle par défaut

L'intelligence artificielle n'est pas universelle parce qu'elle est puissante. Elle est universelle seulement si on l'entraîne à l'être — avec des données équilibrées, des expertises diverses, et une volonté politique de ne pas sacrifier les langues minoritaires ou sous-dotées sur l'autel de l'efficacité commerciale.

Le cas de l'antisémitisme en persan n'est pas une anomalie exotique. C'est un miroir tendu vers une réalité systémique : nos outils d'IA reflètent nos angles morts collectifs. Les corriger demande moins de génie technologique que de rigueur, d'humilité, et d'engagement envers les populations les plus exposées.

— Reservoir Live