Vers une crise de confiance sans éthique claire pour l’IA

Suvianna Grecu met en garde : une IA non régulée risque une crise de confiance

L'IA en pleine expansion : un danger éthique sans règles claires

Le monde se précipite pour adopter l’intelligence artificielle, mais selon Suvianna Grecu, fondatrice de la AI for Change Foundation, cette course effrénée sans garde-fous éthiques risque de provoquer une véritable crise de confiance.

Interrogée sur l'intégration de l’IA dans des secteurs critiques, Grecu affirme que le véritable danger n’est pas la technologie elle-même, mais l’absence de structure et de régulation autour de son déploiement.

De puissants systèmes d’IA prennent désormais des décisions ayant un impact majeur sur la vie humaine : traitement des candidatures, notation de crédit, soins de santé ou encore justice pénale, souvent sans test rigoureux des biais intégrés ni considération des effets à long terme sur la société.

Pour de nombreuses organisations, l’éthique de l’IA reste un principe théorique plutôt qu’une réalité opérationnelle quotidienne. Selon Grecu, la véritable responsabilité commence lorsque quelqu’un est réellement désigné comme responsable des résultats. C’est dans l’écart entre les bonnes intentions et leur application concrète que réside le plus grand risque.

Transformer les principes éthiques en actions concrètes

L’approche de l’AI for Change Foundation vise à intégrer l’éthique dès le développement de l’IA grâce à :

• Des checklists de conception éthique,
• Des évaluations de risques obligatoires avant le déploiement,
• Des comités d’examen composés d’experts juridiques, techniques et politiques.

Grecu insiste sur la nécessité d’attribuer une responsabilité claire à chaque étape, à l’instar des fonctions cœur de métier, afin de créer des processus transparents et reproductibles. Cette méthode transforme l’éthique de l’IA en tâches concrètes et quotidiennes, loin des débats philosophiques abstraits.

Construire la confiance grâce à une gouvernance partagée

D’après Grecu, la gouvernance de l’IA ne peut reposer uniquement sur le gouvernement ou sur l’industrie. « Ce n’est pas l’un ou l’autre, c’est les deux », affirme-t-elle, en plaidant pour un modèle de collaboration équilibrée.

Le rôle des gouvernements ? Fixer des cadres juridiques solides et des normes minimales, surtout lorsqu’il s’agit de droits humains fondamentaux.

L’industrie, quant à elle, dispose de l’agilité et de la compétence technique nécessaires pour :

• Développer des outils d’audit avancés,
• Proposer des mesures de sécurité innovantes,
• Repousser les limites d’une technologie responsable.

Abandonner complètement la gouvernance à l’un ou l’autre de ces acteurs comporte des risques majeurs : frein à l’innovation ou abus de pouvoir. C’est pourquoi, selon Grecu, une approche collaborative est la seule voie durable.

Une technologie basée sur les valeurs humaines

Au-delà des préoccupations immédiates, Suvianna Grecu alerte sur des risques plus insidieux, comme la manipulation émotionnelle par l’IA et l’absence de technologies ancrées dans de véritables valeurs humaines.

Avec des systèmes capables d’influencer les émotions humaines, la bataille pour protéger l’autonomie individuelle devient cruciale. Grecu rappelle que l’IA n’est pas neutre – elle reflète les données, les objectifs et les récompenses que nous lui attribuons.

En l’absence de régulation volontaire, l’intelligence artificielle s’optimisera naturellement pour des métriques comme l'efficacité, la rentabilité ou la rapidité – au détriment de valeurs fondamentales comme :

• La justice,
• La dignité,
• La démocratie.

Pour l’Europe, Grecu y voit une opportunité unique de porter un modèle technologique éthique. Elle plaide pour l’intégration de valeurs européennes telles que les droits humains, la transparence, l’inclusion et la durabilité dans la politique, la conception et le déploiement des systèmes d’IA.

« Il ne s’agit pas de freiner le progrès, prévient-elle, mais de reprendre la main sur notre avenir technologique, et de le façonner avant qu’il ne nous façonne. »

Agir dès maintenant : former, sensibiliser et co-construire

À travers des ateliers publics et sa participation à des événements majeurs comme le AI & Big Data Expo Europe, où elle sera présidente de séance, Suvianna Grecu construit une coalition pour guider l’évolution de l’intelligence artificielle tout en plaçant l’humain au cœur de la transformation.

(Crédit photo : Cash Macanaya)

À lire aussi : L’obsession de l’IA nous fait perdre nos compétences humaines

Envie d’aller plus loin sur l’IA et les données ? Ne manquez pas les prochains AI & Big Data Expo à Amsterdam, Californie et Londres, en coordination avec les événements Intelligent Automation Conference, BlockX, Digital Transformation Week et Cyber Security & Cloud Expo.

Retrouvez tous les événements organisés par TechForge ici.

@ReservoirLive