IA en santé : promesses révolutionnaires et dangers cachés

Quand l'intelligence artificielle entre dans la salle de consultation

Imaginez un médecin qui ne dort jamais, qui a lu des millions de dossiers médicaux et qui peut analyser une radio en quelques secondes. Cette promesse, l'intelligence artificielle en santé semble aujourd'hui capable de la tenir. Mais derrière les annonces spectaculaires se cachent des risques réels, encore trop peu évoqués. Car une IA peut aussi inventer des diagnostics, citer des médicaments inexistants, ou confondre des symptômes avec une assurance déconcertante. Bienvenue dans l'ère des hallucinations médicales.

Une révolution médicale en marche

Les chiffres donnent le vertige. Selon une étude publiée dans Nature Medicine, certains modèles d'IA détectent les cancers du sein sur mammographie avec une précision supérieure à celle de deux radiologues humains combinés. Google DeepMind a développé AlphaFold, capable de prédire la structure de protéines en quelques heures — un travail qui prenait auparavant des années aux chercheurs. En France, des startups comme Gleamer ou Cardiabase intègrent l'IA directement dans les flux de travail hospitaliers.

Les domaines d'application sont multiples et concrets :

• Imagerie médicale : détection précoce de tumeurs, AVC, fractures
• Génomique : identification de mutations associées à des maladies rares
• Aide à la prescription : détection d'interactions médicamenteuses dangereuses
• Suivi des patients chroniques : alertes prédictives basées sur les données vitales
• Transcription et synthèse médicale : réduction de la charge administrative des soignants

Dans des zones sous-médicalisées, l'IA représente potentiellement une bouée de sauvetage. Un médecin généraliste isolé peut s'appuyer sur un outil d'aide au diagnostic pour traiter des pathologies rares qu'il ne rencontrera peut-être qu'une fois dans sa carrière.

Le phénomène des hallucinations : quand l'IA invente la médecine

Mais voilà le problème fondamental que l'enthousiasme général tend à minimiser : les grands modèles de langage — ces IA qui répondent à vos questions en texte — hallucinent. Ce terme technique désigne leur capacité à générer des informations fausses mais formulées avec une précision et une confiance absolues.

En médecine, les conséquences peuvent être graves. Des études ont montré que ChatGPT, Gemini ou d'autres LLMs populaires peuvent :

• Citer des études scientifiques qui n'existent pas, avec des auteurs, des revues et des DOI inventés
• Recommander des dosages médicamenteux incorrects, parfois dangereux
• Confondre des pathologies aux symptômes similaires avec une apparente logique clinique
• Omettre des contre-indications critiques ou des interactions médicamenteuses majeures

Un exemple concret qui fait froid dans le dos

En 2023, des chercheurs américains ont soumis à plusieurs IA des questions portant sur la prise en charge de douleurs thoraciques. Plusieurs modèles ont fourni des protocoles plausibles en apparence, mais comportant des erreurs potentiellement fatales — notamment en matière d'anticoagulation. Un patient non averti, ou un soignant trop pressé, pourrait suivre ces recommandations sans les remettre en question. C'est précisément là que réside le danger : l'IA ne sait pas ce qu'elle ne sait pas.

Pourquoi les hallucinations sont structurellement inévitables (pour l'instant)

Comprendre ce phénomène nécessite un bref détour technique. Les LLMs ne raisonnent pas comme un médecin. Ils prédisent statistiquement le mot le plus probable suivant, en s'appuyant sur des milliards de textes. Ils n'ont pas de mécanisme natif de vérification des faits. Quand ils manquent d'information, ils comblent les lacunes avec des extrapolations convaincantes plutôt qu'avec un honnête "je ne sais pas".

Des approches comme le Retrieval-Augmented Generation (RAG) — qui connecte l'IA à des bases de données médicales validées en temps réel — ou le fine-tuning sur des corpus cliniques certifiés permettent de réduire significativement ce risque. Mais elles ne l'éliminent pas totalement.

Quel cadre pour une IA médicale responsable ?

La réglementation commence à se structurer. En Europe, l'AI Act classe les applications médicales dans la catégorie "haut risque", imposant des exigences strictes de traçabilité, de transparence et de supervision humaine. La FDA américaine a approuvé plus de 500 dispositifs basés sur l'IA en médecine, mais avec des critères d'évaluation encore en cours de standardisation.

Pour les professionnels de santé comme pour les patients, quelques principes essentiels s'imposent :

• L'IA comme outil d'aide, jamais comme décideur final
• Systématiquement vérifier les sources citées par un modèle génératif
• Privilégier des solutions certifiées médicalement plutôt que des chatbots grand public
• Former les soignants à l'utilisation critique de ces technologies

Conclusion : ni utopie ni dystopie, mais lucidité

L'intelligence artificielle en santé n'est ni le médecin omniscient de demain ni une machine à tuer les patients d'aujourd'hui. C'est un outil extraordinairement puissant, extraordinairement imparfait, qui requiert une supervision humaine rigoureuse, un encadrement réglementaire solide et une littératie numérique renforcée chez tous les acteurs du soin.

La vraie question n'est pas de savoir si l'IA va transformer la médecine — elle le fait déjà. La question est de savoir si nous allons le faire intelligemment, avec les garde-fous nécessaires pour que les promesses ne se transforment pas en drames. Le progrès sans prudence n'a jamais été une vertu médicale.

— Reservoir Live