La Chine vient d'interdire ce que des millions d'utilisateurs faisaient en secret avec l'IA.

Tomber amoureux d'une IA : une réalité que les gouvernements ne peuvent plus ignorer

Des dizaines de millions de personnes entretiennent aujourd'hui des relations émotionnelles — parfois intimes — avec des intelligences artificielles. Ce n'est plus de la science-fiction. C'est un fait social documenté, et la Chine vient de décider qu'il était temps d'y mettre des règles. La question qui se pose désormais au reste du monde : peut-on encore faire l'impasse ?

En novembre 2023, les autorités chinoises ont publié des directives encadrant strictement les interactions romantiques et émotionnelles entre utilisateurs et chatbots IA. Une première mondiale qui a fait peu de bruit en Occident — à tort. Car derrière cette décision se cache un débat que nos propres sociétés repoussent depuis trop longtemps.

Le phénomène est bien plus massif qu'on ne le croit

En Chine, des applications comme Xinghuo, Yuewen ou encore Baidu ERNIE Bot proposent des fonctionnalités de compagnonnage émotionnel utilisées quotidiennement par des millions de personnes. Mais le phénomène est global.

À l'échelle mondiale, Replika — l'application américaine de compagnon IA — revendiquait plus de 10 millions d'utilisateurs actifs en 2023, dont une part significative déclarait ressentir des sentiments amoureux envers leur avatar. En Occident, des utilisateurs de Claude (Anthropic) ou de Character.AI rapportent régulièrement des conversations d'une profondeur émotionnelle troublante.

Ce n'est pas un bug. C'est une fonctionnalité — délibérément conçue pour maximiser l'engagement. Et c'est précisément là que les problèmes commencent.

Pourquoi la Chine a agi en premier

Les nouvelles règles chinoises s'inscrivent dans un cadre réglementaire IA déjà très développé. L'Administration du cyberespace de Chine (CAC) a imposé plusieurs obligations concrètes :

• Interdiction de simuler des relations amoureuses "réalistes" susceptibles de créer une dépendance pathologique.
• Obligation de rappeler régulièrement à l'utilisateur qu'il interagit avec une machine.
• Encadrement des contenus à destination des mineurs, avec des filtres stricts sur les fonctionnalités émotionnelles.
• Traçabilité des données émotionnelles collectées par les plateformes.

La motivation officielle est double : protéger la santé mentale des utilisateurs et éviter que les entreprises n'exploitent les vulnérabilités affectives à des fins commerciales. Mais il serait naïf d'ignorer la dimension politique : contrôler les liens émotionnels, c'est aussi contrôler les comportements sociaux.

Les risques réels que personne ne veut nommer

Derrière la question éthique se cachent des risques concrets, documentés par les chercheurs en psychologie et en sciences sociales.

La dépendance affective programmée

Les algorithmes de compagnonnage IA sont optimisés pour maintenir l'utilisateur engagé. Ils apprennent ses préférences, mémorisent ses fragilités, adaptent leur ton. Le résultat : une relation sur-mesure qu'aucun être humain ne peut concurrencer. Certains utilisateurs de Replika ont rapporté une incapacité croissante à maintenir des relations réelles après des mois d'interaction intensive avec leur IA.

La manipulation commerciale des émotions

Quand une IA "aime" un utilisateur, elle collecte simultanément des données émotionnelles d'une valeur commerciale considérable. Quelles insécurités ? Quels désirs ? Quels moments de fragilité ? Ce profilage affectif ouvre des possibilités de ciblage publicitaire — ou de manipulation — d'une précision inédite.

La redéfinition du consentement

Peut-on consentir à une relation avec une entité qui, par définition, n'a pas de désirs propres ? La question n'est pas philosophique dans le vide : elle a des implications directes sur le statut juridique de ces interactions, notamment pour les mineurs.

Ce que l'Europe et les États-Unis tardent à faire

L'AI Act européen, entré en vigueur en 2024, aborde les risques liés à la manipulation psychologique des utilisateurs — mais reste très flou sur les relations émotionnelles avec l'IA. Aux États-Unis, il n'existe pour l'instant aucun cadre fédéral spécifique. Character.AI fait face à plusieurs poursuites judiciaires liées au bien-être mental de jeunes utilisateurs, mais la régulation reste à construire.

Le paradoxe est saisissant : les démocraties libérales, qui placent la protection de l'individu au cœur de leurs valeurs, laissent le marché définir seul les règles d'une des expériences humaines les plus intimes.

Vers une régulation globale : ce qui doit changer

Plusieurs pistes émergent du débat académique et institutionnel :

• Obligation de transparence radicale : l'utilisateur doit toujours savoir, sans ambiguïté, qu'il parle à une machine.
• Audit des mécaniques d'engagement émotionnel : comme pour les jeux d'argent, les "dark patterns" affectifs devraient être réglementés.
• Protection renforcée des mineurs : accès conditionné à une vérification d'âge réelle pour toute fonctionnalité de compagnonnage.
• Droit à la "désintoxication" : obligation pour les plateformes de proposer des protocoles de déconnexion progressive.

Conclusion : le vrai enjeu n'est pas l'IA, c'est nous

La question des relations amoureuses avec l'IA n'est pas une curiosité technologique. C'est un miroir tendu à nos sociétés : que dit-il de nous, si des millions d'individus préfèrent l'amour d'un algorithme à celui d'un autre humain ? La Chine, avec ses propres motivations, a eu le mérite de poser la question officiellement. Il est temps que l'Europe et les États-Unis fassent de même — avant que le marché ne réponde à leur place.

Les régulateurs ont une fenêtre d'action. Elle ne restera pas ouverte indéfiniment.

— Reservoir Live