La Floride attaque OpenAI : ce que ChatGPT cache à vos enfants

Un procureur général, une famille brisée, et une question que personne ne voulait poser

Une fillette de 11 ans développe une obsession pour un personnage romantique généré par une IA. Une autre, de 17 ans, reçoit des contenus sexuellement explicites via une interface de chatbot. Ce ne sont pas des scénarios de fiction. Ce sont deux des cas au cœur de la plainte que l'État de Floride vient de déposer contre OpenAI. Et cette fois, le monde de l'intelligence artificielle ne peut plus détourner le regard.

La Floride est devenue l'un des premiers États américains à attaquer directement OpenAI en justice, ciblant les risques que ChatGPT et ses dérivés font peser sur les mineurs. Cette offensive juridique marque un tournant : après des années de débat théorique sur l'éthique de l'IA, les tribunaux entrent dans l'arène.

Que reproche exactement la Floride à OpenAI ?

La plainte déposée par le procureur général de Floride, James Utter, identifie plusieurs manquements graves :

• Collecte illégale de données sur les mineurs sans consentement parental, en violation du Children's Online Privacy Protection Act (COPPA)
• Génération de contenus inappropriés accessibles à des utilisateurs de moins de 13 ans, malgré les conditions d'utilisation officielles
• Absence de vérification d'âge réelle : une simple case à cocher suffit pour accéder à la plateforme
• Conception addictive des interfaces, conçues pour maximiser l'engagement au détriment du bien-être des utilisateurs vulnérables

En résumé, la Floride accuse OpenAI de savoir — et de ne pas agir. Un argument juridique redoutable, car il implique une négligence délibérée, non une simple erreur de conception.

Le vrai problème : ChatGPT n'a jamais été conçu pour les enfants

Officiellement, ChatGPT est interdit aux moins de 13 ans, et nécessite un accord parental pour les 13-18 ans. Dans les faits ? N'importe quel enfant peut créer un compte en mentant sur son âge en moins de 30 secondes.

C'est là que réside la fracture centrale. OpenAI a construit un produit grand public ultra-accessible, dopé aux données comportementales, et l'a déployé sans infrastructure de protection suffisante. Les garde-fous existent sur le papier. Pas dans la réalité des usages.

Des études menées par des associations de protection de l'enfance montrent que plus de 40 % des utilisateurs de ChatGPT entre 10 et 17 ans y accèdent sans que leurs parents le sachent. Une fois dans l'interface, certains découvrent qu'il est possible — avec quelques manipulations simples — de contourner les filtres de contenu et d'obtenir des réponses explicites.

Ce que cette affaire révèle sur l'industrie toute entière

OpenAI n'est pas seul dans le viseur. La Floride a également ciblé d'autres plateformes d'IA générative, et plusieurs États américains — dont le Texas et la Californie — observent cette procédure de très près.

Ce procès soulève des questions systémiques :

• Qui est responsable quand une IA génère du contenu nocif pour un mineur ?
• Les CGU suffisent-elles à dégager la responsabilité d'une entreprise technologique ?
• Les régulateurs ont-ils les outils pour auditer des modèles dont même les créateurs ne maîtrisent pas totalement les comportements ?

La réponse à ces trois questions pourrait redéfinir le cadre légal de toute l'industrie de l'IA aux États-Unis — et par ricochet, en Europe.

En Europe, le DSA et l'AI Act : un filet de sécurité plus solide ?

Pendant que les États-Unis se débattent avec des lois vieilles de vingt-cinq ans comme le COPPA, l'Europe a pris une longueur d'avance réglementaire. Le Digital Services Act (DSA) oblige déjà les très grandes plateformes à évaluer et atténuer les risques pour les mineurs. L'AI Act, qui entrera pleinement en vigueur d'ici 2026, classe certains systèmes d'IA comme à haut risque dès lors qu'ils interagissent avec des populations vulnérables.

Mais ne soyons pas naïfs : une réglementation sur le papier ne protège aucun enfant. L'exécution, les audits, les sanctions réelles — c'est là que tout se joue.

Ce que les parents et les éducateurs doivent retenir maintenant

Sans attendre l'issue du procès, plusieurs mesures concrètes s'imposent :

• Activer les contrôles parentaux sur tous les appareils, y compris pour les applications IA
• Parler ouvertement de l'IA avec les enfants : ce qu'elle peut faire, ce qu'elle ne devrait pas faire
• Exiger des établissements scolaires une politique claire sur l'usage des outils IA par les élèves
• Signaler tout contenu inapproprié généré par une IA via les canaux officiels des plateformes

Conclusion : le procès que l'industrie ne pouvait pas éviter

La Floride n'a peut-être pas tous les arguments juridiques pour gagner ce procès. Mais elle n'a pas besoin de gagner pour changer les règles du jeu. Chaque audience, chaque document produit, chaque témoignage de famille affectée ajoute une pression que ni OpenAI ni ses concurrents ne peuvent ignorer.

L'IA générative est là pour durer. Mais son accès sans friction, sans âge, sans garde-fou réel — ça, c'est un choix. Et les choix ont des conséquences. Les tribunaux américains viennent de rappeler à toute une industrie qu'elle n'est pas au-dessus des lois qui protègent les plus vulnérables.

La vraie question n'est plus "ChatGPT est-il dangereux pour les enfants ?" Elle est devenue : jusqu'où les entreprises d'IA sont-elles prêtes à aller pour éviter d'avoir à répondre de leurs actes ?

— Reservoir Live