Tout le monde parle de filigraner l'IA. Personne ne montre ses limites réelles.

Un faux sentiment de contrôle

Imaginez un monde où chaque image générée par ChatGPT ou Midjourney porte une signature invisible, indélébile, traçable en quelques millisecondes. Rassurant ? Oui. Suffisant ? Loin de là. Car pendant que les gouvernements et les grandes tech misent tout sur l'identification des contenus IA, les vrais problèmes de gouvernance, eux, avancent sans marqueur.

Le filigranage numérique — ou watermarking — est présenté comme la grande réponse aux dérives de l'intelligence artificielle : deepfakes, désinformation, fraude à l'identité. Google, Meta, Adobe et OpenAI investissent massivement dans ces technologies. Mais identifier un contenu comme étant généré par une IA, c'est une chose. Décider quoi en faire, qui est responsable, et selon quelle règle, c'en est une autre. Et sur ce terrain-là, nous n'avons presque rien.

Ce que le filigranage peut — et ne peut pas — faire

Soyons précis sur ce que ces technologies permettent réellement. Des systèmes comme SynthID de Google DeepMind ou les outils intégrés à la coalition C2PA (Coalition for Content Provenance and Authenticity) permettent d'insérer des métadonnées ou des signaux imperceptibles dans une image, une vidéo ou un texte généré par IA. L'objectif : permettre à un outil de vérification de confirmer l'origine artificielle du contenu.

C'est techniquement impressionnant. Mais voici ce que ces systèmes ne font pas :

• Ils ne résistent pas à la manipulation. Une simple capture d'écran, un recadrage, ou le passage par un filtre photo suffit souvent à effacer les marqueurs. Des chercheurs de l'université du Maryland ont démontré en 2023 que la majorité des filigranes actuels pouvaient être supprimés ou transférés avec des outils accessibles au grand public.
• Ils ne disent pas ce qu'on doit faire du contenu. Savoir qu'une vidéo est générée par IA ne dit rien sur sa légalité, son éthique, ni la responsabilité de celui qui la diffuse.
• Ils n'ont pas de portée universelle. Un modèle open-source comme LLaMA, téléchargeable librement, ne sera jamais contraint d'appliquer ces standards. Les acteurs malveillants, eux, n'attendront pas les bonnes pratiques de l'industrie.

La gouvernance, ce continent encore inexploré

La vraie question n'est pas technique. Elle est politique, juridique et sociale. Qui décide des règles ? Qui contrôle ? Qui sanctionne ?

Aujourd'hui, l'AI Act européen — entré en vigueur en 2024 — impose certaines obligations de transparence pour les systèmes d'IA dits à "haut risque". Mais la définition de ce risque reste floue, les mécanismes de sanction sont lents, et les petites plateformes échappent souvent au radar. Aux États-Unis, c'est le vide réglementaire qui domine, comblé à la marge par des décrets exécutifs sans force contraignante réelle.

Pendant ce temps, des décisions critiques sont prises quotidiennement par des systèmes d'IA dans les domaines de la santé, du crédit, de la justice, de l'embauche — sans que les personnes concernées sachent si elles ont affaire à une décision humaine ou automatisée, et sans recours clair si la décision est injuste.

Le filigranage ne répondra jamais à cette question : qui est responsable quand une IA se trompe ?

Trois enjeux que l'identification seule ne peut pas résoudre

1. La responsabilité en chaîne

Un contenu peut être créé par un modèle d'IA d'un éditeur américain, distribué par une plateforme irlandaise, consulté par un utilisateur français, et provoquer un préjudice au Sénégal. Même parfaitement identifié comme "généré par IA", ce contenu laisse entière la question de la responsabilité juridique à chaque maillon de la chaîne.

2. Le biais systémique invisible

Un algorithme de recrutement peut discriminer des candidates selon leur genre ou leur origine, et produire des décisions parfaitement "traçables" — sans que le filigranage change quoi que ce soit à l'injustice produite. L'identification de la source ne neutralise pas les biais encodés dans le modèle.

3. La désinformation à visage humain

Les campagnes de manipulation les plus sophistiquées n'utilisent pas des faux grossiers : elles amplifient des vraies informations sorties de contexte, ou font écrire des humains à partir de suggestions IA non traçables. Le marqueur ne voit rien. La propagande, elle, avance.

Ce que nous devons construire en parallèle

L'identification des contenus IA est nécessaire. Mais elle doit être le point de départ d'un arsenal plus large, pas sa conclusion. Concrètement, cela implique :

• Des mécanismes de recours effectifs pour les personnes lésées par une décision automatisée
• Des audits obligatoires des modèles déployés dans des secteurs sensibles
• Une coopération internationale contraignante, car l'IA ne connaît pas les frontières
• Une éducation aux médias numériques à grande échelle, pour que chaque citoyen puisse exercer un regard critique — avec ou sans filigrane

Conclusion : ne pas confondre la carte et le territoire

Savoir qu'un contenu vient d'une IA, c'est lire la carte. Gouverner les effets réels de cette IA sur nos vies, c'est traverser le territoire. Ces deux choses ne se ressemblent pas. Le filigranage est une avancée technique réelle — mais le confondre avec une solution de gouvernance, c'est se raconter une histoire rassurante au mauvais moment.

La prochaine fois qu'un responsable politique ou un dirigeant tech vous dira que l'identification des contenus IA "protège les citoyens", posez-lui une question simple : et si le contenu est identifié, mais que le préjudice a déjà eu lieu — qui répond ?

— Reservoir Live