3 pays utilisent l'IA pour prédire vos crises sociales avant vous

Quand l'État sait que vous allez perdre votre emploi avant que vous le sachiez

Une mère de famille à Rotterdam reçoit un appel de son conseiller social en mars. Elle n'a rien demandé. Elle n'est pas encore en difficulté. Mais un algorithme municipal vient d'identifier qu'elle présente 73 % de probabilité de tomber dans une situation de précarité dans les six prochains mois. Cette scène n'est pas tirée d'un roman de Philip K. Dick. Elle se déroule aujourd'hui, dans plusieurs villes européennes, sous le nom discret d'État-providence prédictif.

La question n'est plus de savoir si l'intelligence artificielle peut anticiper les besoins sociaux. Elle le fait déjà. La vraie question est : à quel prix, et pour qui ?

Du curatif au prédictif : un basculement silencieux

Pendant des décennies, le modèle des services sociaux a fonctionné selon une logique réactive : vous traversez une crise, vous sollicitez de l'aide, l'État intervient. Ce modèle coûte cher, arrive souvent trop tard, et rate des milliers de personnes qui ne savent pas à quoi elles ont droit ou n'osent pas demander.

L'approche prédictive renverse cette logique. En croisant des données massives — dossiers médicaux anonymisés, historiques de paiements de loyer, données de Pôle Emploi, scores de crédit, absentéisme scolaire — des systèmes d'IA identifient les populations avant qu'elles ne basculent dans la vulnérabilité. L'objectif affiché : intervenir au bon moment, avec les bonnes ressources, auprès des bonnes personnes.

Trois pays pionniers, trois approches différentes

Les Pays-Bas : le cas SyRI

Le système SyRI (Systeem Risico Indicatie) a été le projet le plus ambitieux et le plus controversé d'Europe. Déployé dans plusieurs municipalités néerlandaises, il croisait des dizaines de bases de données publiques pour attribuer un score de risque de fraude sociale ou de précarité à chaque citoyen. En 2020, un tribunal de La Haye l'a suspendu, jugeant qu'il violait la Convention européenne des droits de l'homme. L'affaire SyRI est devenue le cas d'école de toutes les discussions sur l'éthique algorithmique dans les services publics.

L'Estonie : l'anticipation sans stigmatisation

L'Estonie, précurseur mondial de l'e-gouvernement, expérimente une approche plus fine. Son modèle de "life events prediction" analyse les transitions de vie — divorce, décès d'un proche, perte d'emploi — pour déclencher automatiquement des propositions d'aide avant même qu'une demande soit formulée. La différence essentielle avec SyRI : les données restent sous contrôle du citoyen, qui peut voir et modifier ce que l'État sait de lui.

Le Royaume-Uni : les Early Help Systems

Plusieurs councils britanniques utilisent des outils d'Early Help pour identifier les enfants en risque de décrochage scolaire ou de maltraitance. Le système de Bristol, par exemple, agrège des signaux faibles — changements d'école répétés, visites aux urgences, signalements de voisinage — pour alerter les travailleurs sociaux sur les familles prioritaires. Les résultats sur la prévention sont mesurables, mais les biais de l'algorithme restent un point de friction majeur.

Le problème que personne ne veut nommer

Ces systèmes partagent une faille commune : ils apprennent à partir de données historiques qui reflètent des inégalités passées. Si les populations pauvres ont historiquement fait l'objet de plus de contrôles sociaux, l'algorithme apprend que "pauvre" corrèle avec "à risque". Il ne prédit pas une réalité objective — il reproduit et amplifie une réalité déjà biaisée.

Virginia Eubanks, chercheuse américaine, a documenté ce phénomène dans son ouvrage Automating Inequality : les algorithmes de prédiction sociale pénalisent systématiquement les mêmes communautés — minorités ethniques, familles monoparentales, quartiers défavorisés — non pas parce qu'elles sont plus "à risque" en soi, mais parce qu'elles sont plus surveillées.

Ce que l'IA prédictive peut réellement apporter

Malgré ces risques réels, écarter l'approche prédictive serait une erreur. Bien encadrée, elle offre des possibilités concrètes :

• Réduction des non-recours : en France, 30 % des personnes éligibles au RSA ne le demandent pas. Une IA bien calibrée peut identifier et contacter ces personnes.
• Allocation optimisée des ressources : les travailleurs sociaux, en sous-effectif chronique, peuvent concentrer leur énergie sur les situations les plus urgentes.
• Prévention des ruptures : détecter une spirale de surendettement six mois avant la saisie, c'est changer une vie.

La condition sine qua non : la transparence algorithmique

Le modèle acceptable n'est pas celui qui surveille en silence. C'est celui qui explique, qui propose sans imposer, et qui laisse au citoyen le dernier mot. Cela implique des obligations légales claires : droit d'accès au score, droit de contestation, audit régulier des biais, et impossibilité d'automatiser une décision négative sans validation humaine.

Le règlement européen sur l'IA (AI Act), entré en vigueur en 2024, classe déjà les systèmes de scoring social public parmi les usages à haut risque, soumis aux contrôles les plus stricts. C'est un signal fort, mais l'application reste inégale selon les États membres.

Conclusion : l'État bienveillant ou l'État omniscient ?

L'État-providence prédictif n'est ni une utopie ni une dystopie. C'est un outil — puissant, ambigu, et profondément politique. La technologie peut aider des milliers de personnes à ne pas tomber dans des gouffres que le système traditionnel n'aurait jamais vus venir. Mais elle peut aussi devenir le plus sophistiqué des instruments de contrôle social si elle est déployée sans contre-pouvoirs.

La vraie question politique de la prochaine décennie ne sera pas "l'IA peut-elle aider les plus vulnérables ?" Elle sera : qui décide de ce qui constitue un risque, et au nom de qui ?

— Reservoir Live