ChatGPT manipule mieux que vous : l'étude qui dérange

Vous pensez savoir quand on vous manipule. Une étude vient de prouver le contraire.

Dans un laboratoire de l'université de Zurich, des participants ont été soumis à des tentatives de persuasion menées par des humains et par des modèles d'intelligence artificielle. Résultat : les IA ont convaincu plus efficacement dans 82 % des scénarios testés. Ce chiffre n'est pas une projection futuriste. Il date de 2024. Et il change radicalement la manière dont nous devons penser la confiance à l'ère numérique.

Ce que l'étude révèle vraiment

Publiée dans la revue PNAS (Proceedings of the National Academy of Sciences), l'étude menée par des chercheurs de l'EPFL et de l'université de Zurich a mis en scène des débats contradictoires. D'un côté, des participants humains défendaient des positions. De l'autre, le modèle GPT-4 d'OpenAI. Les sujets ignoraient souvent qu'ils avaient affaire à une machine.

Le constat est sans appel : GPT-4 a modifié les opinions des participants de manière significativement plus fréquente que ses homologues humains. Et ce, même sur des sujets sensibles comme la politique, la santé ou les décisions financières.

Pourquoi ? Trois facteurs ressortent de l'analyse :

• La fluidité sans faille : l'IA ne bafouille pas, ne montre aucun signe de stress, et adapte son registre en temps réel.
• La personnalisation à grande échelle : en analysant les formulations de l'interlocuteur, le modèle ajuste ses arguments à chaque profil psychologique.
• L'absence de biais émotionnels visibles : là où un humain peut paraître défensif ou partial, l'IA projette une neutralité rassurante — même quand elle est orientée.

Des escroqueries déjà à l'œuvre

Ces capacités ne restent pas dans les laboratoires. Elles alimentent déjà une nouvelle génération d'arnaques sophistiquées, documentées par Europol et le FBI dans leurs rapports 2024.

Le vishing augmenté — appels téléphoniques frauduleux avec voix clonée et scénario généré par IA — permet de se faire passer pour un conseiller bancaire, un proche en détresse, ou même un médecin. Les victimes décrivent des conversations d'une cohérence troublante. Les escrocs utilisent des modèles comme Claude ou des versions modifiées de Llama pour générer des scripts adaptatifs qui répondent aux objections en temps réel.

Plus inquiétant encore : les campagnes de spear phishing propulsées par IA. Ces emails personnalisés ne ressemblent plus aux tentatives grossières d'il y a cinq ans. Ils citent vos projets récents, vos collègues par leur prénom, vos habitudes professionnelles — des données compilées depuis vos réseaux sociaux en quelques secondes.

Pourquoi notre cerveau ne voit pas la différence

Le problème est cognitif avant d'être technologique. Notre cerveau évalue la crédibilité d'un interlocuteur à travers des signaux heuristiques : la fluidité du discours, la cohérence des références, l'absence de contradiction. Les grands modèles de langage excellent précisément sur ces trois critères.

Le professeur Robert Cialdini, dont les travaux sur l'influence font référence depuis trente ans, identifiait six leviers de persuasion : réciprocité, cohérence, preuve sociale, autorité, sympathie, rareté. Une IA bien configurée peut activer les six simultanément, sans fatigue, sans erreur, et à une échelle que nul humain ne pourrait atteindre.

Ce n'est pas de la science-fiction. C'est de l'ingénierie de l'attention.

Ce que les entreprises et les individus doivent faire maintenant

Face à cette réalité, la passivité est une stratégie perdante. Voici ce que l'on peut mettre en place concrètement :

• Instituer un protocole de vérification hors canal : toute demande urgente reçue par email ou téléphone doit être confirmée via un canal indépendant, même si l'interlocuteur semble parfaitement légitime.
• Former les équipes à la détection comportementale : non pas à identifier une IA à ses fautes de grammaire (elles n'en font presque plus), mais à ses angles morts — l'IA ne ressent pas d'inconfort quand elle ment.
• Adopter la règle des 72 heures : pour toute décision impliquant de l'argent ou des données sensibles, imposer un délai de réflexion systématique. La manipulation IA, comme humaine, prospère dans l'urgence.
• Exiger la transparence des outils : dans les contextes professionnels, savoir si l'on interagit avec un humain ou un système automatisé devrait devenir un droit non négociable.

La vraie question n'est pas technique

Il serait confortable de traiter ce sujet comme un problème d'ingénierie à résoudre avec de meilleurs filtres ou des détecteurs d'IA. Mais l'enjeu est plus profond. Nous entrons dans une période où la fluidité d'un discours ne dit plus rien de son authenticité.

Les modèles comme GPT-4, Claude ou Gemini ne sont pas malveillants par nature. Ils sont des outils. Mais un outil de persuasion d'une puissance sans précédent, accessible à quiconque dispose d'une connexion internet et d'une intention douteuse, représente un risque systémique.

La confiance a toujours été la ressource la plus rare et la plus précieuse dans les relations humaines. Elle l'est encore davantage aujourd'hui — parce qu'elle est désormais la cible principale d'une technologie qui ne dort jamais.

La meilleure défense reste la même qu'avant l'IA : prendre le temps de douter, vérifier, et ne jamais laisser l'urgence court-circuiter votre jugement.

— Reservoir Live