Tout le monde parle d'IA. Personne ne montre qui fixe les règles.

Les philosophes ont quitté l'université. Ils sont maintenant dans les bureaux de Google, OpenAI et Meta.

Pendant des décennies, l'éthique était une discipline académique confinée aux amphithéâtres. Aujourd'hui, elle figure dans les organigrammes des entreprises les plus puissantes de la planète — avec un salaire à six chiffres et un accès direct aux décisions qui façonnent l'IA utilisée par des milliards de personnes. Ce basculement n'est pas anodin. Il révèle une tension profonde au cœur de l'innovation technologique : peut-on vraiment encadrer une technologie depuis l'intérieur de l'entreprise qui la développe ?

Pourquoi la Silicon Valley a eu besoin de penseurs

La réponse courte : les scandales ont forcé la main. Cambridge Analytica, les biais algorithmiques des systèmes de reconnaissance faciale, les dérives des modèles de langage génératifs — chaque crise a mis en lumière une même lacune : les ingénieurs construisaient des systèmes sans se demander sérieusement ce qu'ils ne devaient pas construire.

Les investisseurs, les régulateurs européens (RGPD, AI Act) et l'opinion publique ont commencé à exiger des comptes. La Silicon Valley a alors fait ce qu'elle fait toujours face à un problème : elle a recruté. Des docteurs en philosophie morale, des spécialistes de la justice sociale, des théologiens, des juristes spécialisés en droits humains. OpenAI a créé son équipe de "policy and safety". Google DeepMind dispose d'un département d'éthique structuré. Meta a embauché des chercheurs en responsible AI après les controverses liées à Facebook.

Ce que font concrètement ces "éthiciens de l'IA"

Le titre varie — AI Ethics Researcher, Responsible Innovation Lead, Trust & Safety Philosopher — mais les missions convergent autour de plusieurs axes :

• L'audit des biais : analyser les données d'entraînement et les outputs des modèles pour identifier des discriminations systémiques (genre, race, classe sociale).
• La rédaction de chartes et principes : formuler des engagements publics sur l'usage responsable de l'IA, souvent en dialogue avec des régulateurs.
• L'anticipation des risques : imaginer des scénarios d'usage détournés avant le déploiement — une forme de philosophie appliquée en temps réel.
• La médiation interne : arbitrer entre les équipes produit qui veulent aller vite et les équipes légales qui veulent ralentir.

La question qui dérange : peut-on être éthicien sous les ordres d'un PDG ?

C'est là que la philosophie rattrape la réalité. Plusieurs voix critiques — dont celle de Timnit Gebru, chercheuse en éthique de l'IA licenciée par Google en 2020 dans des circonstances controversées — ont pointé une contradiction fondamentale : un éthicien salarié n'est pas un éthicien libre.

Gebru avait co-rédigé un article scientifique alertant sur les risques des grands modèles de langage. Google lui a demandé de le retirer. Elle a refusé. Elle a été congédiée. Son cas est devenu emblématique d'un phénomène que les chercheurs appellent désormais le "ethics washing" : afficher une façade éthique tout en neutralisant les voix réellement critiques.

Cette tension n'est pas propre à Google. Elle est structurelle. L'éthicien travaille pour une entreprise dont le modèle économique repose sur la croissance, la rapidité de déploiement et la domination de marché. Sa marge de manœuvre dépend de la culture interne et de la bonne volonté du management — deux variables instables.

Des initiatives qui méritent d'être prises au sérieux

Il serait réducteur de tout balayer d'un revers de main. Certaines initiatives ont produit des résultats tangibles :

• Le Constitutional AI d'Anthropic — l'entreprise derrière Claude — intègre des principes éthiques directement dans le processus d'entraînement du modèle, pas seulement en post-production.
• La Frontier Model Forum, co-fondée par OpenAI, Google, Microsoft et Anthropic, vise à coordonner les standards de sécurité entre concurrents — un geste inhabituel dans un secteur ultra-compétitif.
• Des universités comme MIT et Oxford ont noué des partenariats de recherche indépendants avec des labs d'IA, préservant une distance critique.

Ce que cela change pour vous — utilisateurs, citoyens, professionnels

Si vous utilisez ChatGPT, Gemini ou Claude au quotidien, vous interagissez avec des systèmes qui ont été — du moins en partie — façonnés par ces débats éthiques. Les refus de réponse, les avertissements, les biais corrigés : tout cela est le résultat d'arbitrages humains, pas d'une neutralité algorithmique magique.

Comprendre qui prend ces décisions, selon quels critères et avec quelle indépendance réelle, c'est une forme de littératie numérique adulte. Pas pour devenir paranoïaque, mais pour cesser de traiter l'IA comme une boîte noire infaillible.

Conclusion : l'éthique de l'IA ne peut pas rester une affaire d'entreprises

Recruter des philosophes est un premier pas. Mais l'histoire nous a appris qu'aucune industrie ne s'est régulée seule de manière durable — ni la finance, ni l'agroalimentaire, ni la pharmacie. L'IA ne fera pas exception. Les éthiciens internes sont utiles. Les régulateurs indépendants sont nécessaires. Et la société civile — vous compris — doit rester dans la conversation.

Parce que les règles qui encadrent l'intelligence artificielle ne sont pas écrites dans le code. Elles sont écrites dans nos choix collectifs. Et ça, aucun algorithme ne peut le faire à notre place.

— Reservoir Live