OpenAI Health promet de soigner. Voici ce qu'elle risque de casser.

Un outil médical puissant, des garde-fous encore flous

OpenAI vient de franchir une ligne que beaucoup considéraient comme intouchable : elle s'attaque désormais à votre santé. Pas métaphoriquement. Littéralement. Avec le lancement d'OpenAI Health, la société de Sam Altman positionne ses modèles d'IA directement dans le parcours de soin — entre vous et votre médecin. Le problème ? Personne ne s'accorde sur ce que ça signifie vraiment pour les patients.

Ce n'est pas une question de technologie. Les modèles de langage d'OpenAI sont objectivement capables de synthétiser des informations médicales complexes en quelques secondes. La vraie question est ailleurs : à qui profite cette rapidité, et à quel prix ?

Ce qu'OpenAI Health promet réellement

Officiellement, OpenAI Health se présente comme une division dédiée à l'amélioration des soins de santé grâce à l'intelligence artificielle. Les ambitions affichées sont larges :

• Aider les médecins à analyser des dossiers patients en temps réel
• Accélérer la recherche clinique et pharmaceutique
• Rendre l'information médicale plus accessible au grand public
• Réduire les erreurs administratives dans les systèmes hospitaliers

Sur le papier, chaque point semble légitime. Dans la pratique, chaque point soulève des questions que ni OpenAI ni ses partenaires n'ont encore clairement résolues.

Le problème que personne ne veut nommer : la confiance mal placée

Voici le scénario concret qui inquiète les professionnels de santé : un patient consulte ChatGPT pour interpréter ses résultats d'analyse. Le modèle lui fournit une réponse cohérente, bien rédigée, rassurante. Cette réponse est fausse — ou partiellement correcte, ce qui est parfois pire. Le patient ne consulte pas son médecin. Ou pire, il arrive en consultation avec des certitudes forgées par une IA.

Ce n'est pas un scénario hypothétique. Des études publiées dans des revues comme JAMA et The BMJ ont déjà démontré que les grands modèles de langage produisent des erreurs médicales significatives dans 20 à 40 % des cas complexes, selon les spécialités. Et ces erreurs ne sont pas toujours détectables par un non-spécialiste, précisément parce qu'elles sont formulées avec une confiance rhétorique impeccable.

L'hallucination médicale : quand l'IA invente des traitements

Le phénomène d'hallucination — cette tendance des IA à produire des informations inventées mais plausibles — est particulièrement dangereux en médecine. Un modèle peut citer une étude clinique qui n'existe pas, recommander un dosage incorrect, ou confondre deux molécules aux noms proches. Dans un domaine où une virgule mal placée peut tuer, cette marge d'erreur est inacceptable sans supervision humaine systématique.

Les professionnels de santé face à un outil qu'ils ne contrôlent pas

Du côté des médecins et des soignants, la situation est paradoxale. Beaucoup utilisent déjà des outils IA dans leur pratique — pour la dictée médicale, la synthèse de dossiers, la veille bibliographique. Mais l'arrivée d'OpenAI Health dans la chaîne de soin officielle pose un problème de responsabilité juridique et éthique qui n'a pas encore de réponse claire.

Si un modèle d'IA suggère un diagnostic erroné que le médecin valide, qui est responsable ? Le praticien ? OpenAI ? L'hôpital qui a déployé la solution ? En France comme aux États-Unis, le cadre réglementaire peine à répondre à cette question avec précision. La FDA américaine et l'Agence Nationale de Sécurité du Médicament française travaillent sur des cadres adaptés — mais ils ne sont pas encore opérationnels à l'échelle requise.

Ce qui fonctionne vraiment — soyons honnêtes

Il serait intellectuellement malhonnête de tout condamner. Dans certains domaines précis, l'IA médicale apporte une valeur réelle et mesurable :

• La radiologie assistée : des modèles comme ceux de Google Health détectent certains cancers du sein avec une précision comparable à celle de radiologues expérimentés
• La gestion administrative : l'automatisation des comptes-rendus réduit significativement la charge bureaucratique des médecins
• La recherche de maladies rares : l'IA peut croiser des milliers de symptômes et de cas publiés en quelques secondes, là où un clinicien mettrait des semaines

La différence fondamentale ? Dans ces cas, l'IA assiste un expert humain. Elle ne le remplace pas. Elle ne communique pas directement avec le patient sans filtre.

La ligne rouge qu'OpenAI Health ne doit pas franchir

Le véritable enjeu d'OpenAI Health n'est pas technique. C'est une question de design éthique : jusqu'où une IA peut-elle interagir directement avec un patient sans supervision médicale qualifiée ? La réponse devrait être simple : jamais, pour tout ce qui touche au diagnostic ou au traitement.

Mais les pressions économiques poussent dans l'autre sens. Déployer une IA qui répond directement aux patients coûte infiniment moins cher que de financer des consultations humaines. Le risque est que la promesse d'accessibilité cache en réalité une logique de réduction des coûts, au détriment de la qualité des soins.

Ce que vous devez retenir

OpenAI Health n'est ni une panacée ni une catastrophe annoncée. C'est un outil puissant déployé dans un domaine où la puissance ne suffit pas — il faut aussi la prudence, la traçabilité et la responsabilité. Avant d'intégrer ces technologies dans votre pratique ou d'y faire confiance en tant que patient, posez toujours une seule question : qui est responsable si quelque chose se passe mal ?

Si la réponse n'est pas claire, c'est que le système n'est pas encore prêt. Et votre santé mérite mieux que "pas encore prêt".

— Reservoir Live