ChatGPT accusé dans 3 procès : quand l'IA joue malgré elle les témoins

Quand une conversation avec un chatbot finit devant un tribunal

Un avocat new-yorkais cite des jurisprudences inventées par ChatGPT dans une vraie plaidoirie. Un homme accusé à tort parce qu'un outil d'IA l'a désigné comme suspect. Une entreprise poursuivie après qu'un assistant conversationnel a divulgué des données confidentielles d'un client. Ces trois affaires ne sont pas des scénarios de science-fiction — elles se sont produites entre 2023 et 2024. Et elles soulèvent une question que personne ne veut vraiment trancher : qui est responsable quand une IA fait du tort ?

Une technologie déployée bien avant que le droit soit prêt

L'IA générative — ChatGPT, Claude, Gemini et leurs cousins — a été adoptée à une vitesse que les cadres juridiques n'ont tout simplement pas anticipée. Des millions d'utilisateurs s'en servent chaque jour pour rédiger des contrats, formuler des conseils médicaux, analyser des situations légales, ou encore prendre des décisions RH. Le problème n'est pas que ces outils soient mauvais. Le problème est qu'ils sont confiants — souvent à tort — et que leurs utilisateurs leur font une confiance aveugle.

En droit, la confiance mal placée a un nom : la faute. Et lorsqu'une faute cause un préjudice, quelqu'un doit répondre. Mais qui ? L'utilisateur ? Le développeur ? La plateforme qui héberge l'outil ? Les législateurs du monde entier tâtonnent encore pour répondre à cette question.

L'affaire Mata vs Avianca : le cas fondateur

L'exemple le plus cité reste celui de l'avocat Steven Schwartz, qui a soumis en 2023 un mémoire juridique à une cour fédérale américaine en s'appuyant sur des affaires inventées de toutes pièces par ChatGPT. Des citations de jugements inexistants, des références à des décisions imaginaires — le tout présenté comme des faits réels. Le juge a sanctionné l'avocat. Mais l'incident a révélé quelque chose de plus profond : l'IA générative ne sait pas ce qu'elle ne sait pas, et elle ne le dit pas toujours clairement.

Ce phénomène porte un nom technique : l'hallucination. Les modèles de langage, entraînés à produire du texte cohérent et plausible, peuvent générer des informations fausses avec la même fluidité stylistique que des informations vraies. Dans un contexte judiciaire, cela peut avoir des conséquences dramatiques.

Les trois dilemmes éthiques que personne ne résout vraiment

1. La responsabilité en cascade

Lorsqu'un chatbot produit une information erronée qui cause un préjudice, la chaîne de responsabilité est floue par conception. L'utilisateur a peut-être mal formulé sa question. La plateforme n'a peut-être pas suffisamment averti des limites du système. Le modèle lui-même a peut-être été entraîné sur des données biaisées. La dilution de la responsabilité est l'un des angles morts les plus dangereux de l'IA générative.

2. La discrimination algorithmique comme preuve

Des outils d'IA ont été utilisés dans plusieurs pays pour aider à évaluer la dangerosité de suspects, prédire des risques de récidive, ou même orienter des décisions d'embauche dans des secteurs sensibles. Ces systèmes, lorsqu'ils s'appuient sur des données historiquement biaisées, reproduisent et amplifient des discriminations existantes. En 2023, plusieurs ONG américaines ont documenté comment des outils d'analyse comportementale basés sur l'IA avaient contribué à des arrestations erronées, touchant de manière disproportionnée des personnes racisées.

3. La confidentialité sacrifiée sur l'autel de la commodité

Des employés partagent chaque jour des informations sensibles avec des assistants IA pour gagner du temps. Des données clients, des stratégies internes, des éléments couverts par le secret professionnel. En 2023, Samsung a dû interdire en interne l'usage de ChatGPT après que des ingénieurs y avaient copié du code source propriétaire. Ce qui entre dans un modèle commercial peut, selon les conditions d'utilisation, contribuer à son entraînement futur — une réalité que la majorité des utilisateurs ignorent.

Vers un cadre juridique ? Les premiers signaux

L'Union européenne a adopté en 2024 l'AI Act, premier texte législatif contraignant au monde sur l'intelligence artificielle. Il classe les usages par niveau de risque et impose des obligations spécifiques aux systèmes utilisés dans des contextes judiciaires, d'emploi ou de sécurité. C'est un premier pas. Mais les textes legislatifs prennent des années à s'appliquer pleinement, et la technologie, elle, avance en semaines.

Aux États-Unis, la situation est plus fragmentée : des directives sectorielles, des guidelines du gouvernement fédéral, mais pas encore de loi unifiée. La Chine, de son côté, impose aux entreprises d'IA une responsabilité directe sur les contenus générés — une approche radicalement différente qui place la contrainte sur les développeurs plutôt que sur les utilisateurs.

Ce que cela change pour vous, dès aujourd'hui

Que vous soyez professionnel du droit, dirigeant d'entreprise, ou simple utilisateur curieux, ces évolutions vous concernent directement :

• Ne traitez jamais une réponse d'IA comme une source primaire dans un contexte à enjeux (légal, médical, financier).
• Lisez les conditions d'utilisation des outils que vous utilisez, en particulier sur le traitement des données que vous soumettez.
• Documentez vos processus de décision : si une IA a contribué à une décision professionnelle, notez-le — cela compte juridiquement.
• Formez vos équipes à ce que l'IA peut et ne peut pas faire. L'enthousiasme technologique sans culture critique est une exposition au risque.

Conclusion : l'IA ne sera pas jugée. Vous, si.

Les chatbots ne comparaissent pas devant les tribunaux. Ils ne peuvent pas être condamnés, ni emprisonnés, ni contraints à réparer un préjudice. Ce sont leurs concepteurs, leurs déployeurs et leurs utilisateurs qui portent cette charge. L'IA générative est un outil d'une puissance inédite — et comme tout outil puissant, son usage irresponsable a des conséquences réelles, parfois irréversibles.

La vraie question éthique n'est pas de savoir si l'IA est bonne ou mauvaise. C'est de savoir si nous, collectivement, sommes prêts à assumer ce que nous en faisons. Pour l'instant, la réponse est : pas encore.

— Reservoir Live