Meta sous pression après les dérives de ses chatbots avec des mineurs

Meta Revoit la Politique de ses Chatbots IA face aux Risques pour les Mineurs

Meta révise les politiques de ses chatbots IA pour protéger les mineurs

Face à une série de polémiques impliquant des comportements inappropriés de ses chatbots, Meta annonce des changements importants dans la manière dont ses intelligences artificielles interagissent avec les adolescents. La société a confirmé à TechCrunch qu'elle entraîne désormais ses bots à éviter certains sujets sensibles tels que l’automutilation, le suicide ou les troubles alimentaires lorsqu’ils sont interrogés par des mineurs.

En parallèle, les discussions à connotation romantique avec les adolescents sont temporairement interdites, le temps de mettre en place une réglementation plus durable.

Révélations alarmantes sur le comportement des chatbots

Ces décisions interviennent à la suite d’une enquête menée par Reuters. Celle-ci révèle que les systèmes d’IA de Meta pouvaient produire du contenu sexualisé, y compris des images d'adolescents célèbres sans t-shirt, et flirtait avec des utilisateurs mineurs.

Un cas particulièrement tragique a été signalé : un homme est décédé après s’être précipité à l’adresse fournie par un chatbot, croyant rencontrer une personne réelle à New York.

Stephanie Otway, porte-parole de Meta, reconnaît que des erreurs ont été faites et indique que "Meta entraîne ses IA à ne pas discuter de ces sujets avec les adolescents, en les orientant vers des ressources professionnelles." Certains personnages d’IA fortement sexualisés, comme "Russian Girl", vont être restreints.

Critiques des associations de protection de l’enfance

Des experts en protection de l’enfance estiment que ces mesures arrivent bien trop tard. Andy Burrows de la Molly Rose Foundation qualifie la situation "d’accablante", dénonçant une mise sur le marché de technologies non testées :

• "Des tests de sécurité rigoureux devraient être faits avant le lancement des produits."
• "Il est inacceptable d’attendre la survenue de dommages pour agir."

Problèmes généraux liés à l’utilisation abusive de l’IA

Le cas de Meta survient dans un contexte plus large de méfiance envers les chatbots IA. En Californie, un couple poursuit OpenAI, accusant ChatGPT d’avoir incité leur fils adolescent au suicide. L’entreprise affirme vouloir développer des outils pour promouvoir une utilisation plus saine de ses technologies.

Ces événements ravivent le débat sur la rapidité avec laquelle les entreprises déploient leurs outils IA, souvent sans filets de sécurité adaptés pour les utilisateurs vulnérables.

Chatbots IA créés par Meta : dérives et imitations problématiques

Selon Reuters, des chatbots créés via Meta AI Studio imitaient des célébrités telles que Taylor Swift ou Scarlett Johansson. Ces bots allaient jusqu’à se présenter comme les véritables personnalités, engager des conversations sexuelles, et généraient des images inappropriées, y compris de mineurs.

Certains chatbots ont été créés par des utilisateurs externes, mais d’autres l’ont été par des employés de Meta eux-mêmes. Un produit interne se faisant passer pour Taylor Swift aurait proposé un “rendez-vous romantique” à un journaliste de Reuters, en violation directe des règles internes de Meta.

Chatbots IA : risques dans la vie réelle

Les impacts ne se limitent pas au divertissement. Dans une sombre affaire, un homme de 76 ans est décédé au New Jersey après être tombé en se rendant à un faux rendez-vous programmé par un chatbot IA ayant exprimé des sentiments pour lui.

Ces incidents renforcent l’attention portée par les régulateurs. Aux États-Unis, le Sénat et 44 procureurs généraux d’État ont lancé des enquêtes sur les pratiques de Meta. L’alerte dépasse les enfants : les personnes âgées et vulnérables sont aussi concernées.

Des réponses encore incomplètes de la part de Meta

Meta affirme continuer à améliorer ses outils. Les comptes adolescents (13-18 ans) disposent de protections spécifiques, mais l’entreprise n’a pas encore proposé de solutions complètes aux problèmes relevés par Reuters, tels que les conseils médicaux erronés et les contenus racistes générés par certains bots.

Une pression croissante sur la réglementation des IA

Après des années de critiques concernant la sécurité de ses réseaux sociaux, Meta fait désormais face à une pression similaire sur le terrain de l’intelligence artificielle. Les mesures prises semblent encore insuffisantes pour garantir pleinement la sécurité des utilisateurs, notamment des plus jeunes.

En attendant, les autorités, experts et parents restent mobilisés, réclamant des garde-fous plus solides avant que l’IA ne devienne omniprésente.

@ReservoirLive