ChatGPT utilisé pour planifier une attaque : ce que personne ne dit vraiment

Un outil pensé pour aider. Détourné pour nuire.

En 2023, un adolescent britannique de 17 ans a été arrêté après avoir utilisé un chatbot d'intelligence artificielle pour affiner le plan d'une attaque terroriste contre une mosquée. Ce n'était pas un cas isolé. C'était un signal. Depuis, les services de renseignement européens ont documenté une hausse significative de l'utilisation des outils d'IA générative dans des contextes de radicalisation violente — et la plupart des plateformes concernées n'ont toujours pas de réponse cohérente.

Ce que cet article explore n'est pas une théorie du complot ni une panique morale. C'est une réalité documentée, complexe, qui concerne autant les parents que les enseignants, les développeurs que les législateurs. Comprendre comment l'IA devient un outil de planification criminelle est aujourd'hui une nécessité civique.

Pourquoi les jeunes radicalisés se tournent vers l'IA

La radicalisation n'est pas un phénomène nouveau. Ce qui change, c'est la vitesse et la qualité des ressources accessibles à ceux qui cherchent à passer à l'acte.

Avant, un individu radicalisé devait trouver des complices, accéder à des réseaux clandestins, parcourir des forums obscurs. Aujourd'hui, un modèle de langage peut, sous certaines conditions, :

• Fournir des informations logistiques détaillées sur des cibles ou des lieux publics
• Aider à rédiger des manifestes idéologiques convaincants
• Suggérer des méthodes pour éviter la détection en ligne
• Simuler des scénarios d'action avec un niveau de cohérence troublant

Ce n'est pas que l'IA veut aider ces individus. C'est qu'elle ne comprend pas qu'elle les aide. La distinction est cruciale.

Le rôle spécifique de ChatGPT, Claude et consorts

Les grands modèles de langage — ChatGPT d'OpenAI, Claude d'Anthropic, Gemini de Google — sont conçus avec des garde-fous. Ces entreprises investissent massivement dans ce qu'on appelle l'alignment : aligner le comportement du modèle sur des valeurs humaines sûres.

Mais ces garde-fous ont des failles. Des chercheurs en sécurité ont démontré à répétition que des techniques de jailbreak — des formulations habiles qui contournent les filtres — permettent d'obtenir des réponses que le modèle est censé refuser. Un utilisateur motivé, même sans compétences techniques, peut y parvenir en quelques essais.

Plus préoccupant encore : des modèles moins réglementés, distribués en open source ou hébergés sur des serveurs étrangers, n'ont aucune contrainte éthique intégrée. Ce sont ces outils-là que les acteurs malveillants adoptent en priorité dès que les grandes plateformes renforcent leurs défenses.

Des exemples concrets qui ont traversé les tribunaux

Au-delà du cas britannique mentionné en introduction, plusieurs affaires récentes illustrent cette tendance :

• Autriche, 2024 : un jeune homme de 19 ans a utilisé un modèle IA open source pour générer une liste de cibles potentielles dans sa ville, accompagnée d'une analyse des horaires de fréquentation. Les enquêteurs ont retrouvé les échanges dans son historique.
• États-Unis, 2023 : un membre d'un groupe d'extrême droite a soumis à ChatGPT des scénarios fictifs d'attaques pour en évaluer la faisabilité logistique. Les captures d'écran ont servi de pièces à conviction.
• France, 2024 : la DGSI a signalé dans son rapport annuel l'usage croissant d'outils IA pour la production de contenus de propagande jihadiste en français, d'une qualité rhétorique inédite.

Ce que cette réalité implique concrètement

Face à ces faits, trois niveaux de responsabilité émergent clairement.

Pour les plateformes

La modération réactive ne suffit plus. Il faut des systèmes capables de détecter les patterns de requêtes révélateurs d'une intention criminelle, même lorsque chaque question prise isolément semble anodine. C'est un défi technique et éthique majeur — car ce même système peut menacer la vie privée des utilisateurs ordinaires.

Pour les institutions éducatives et familiales

La littératie numérique doit inclure une composante sur les risques de la radicalisation en ligne et sur la manière dont les outils IA amplifient ces risques. Parler d'IA à un jeune de 14 ans sans aborder la manipulation algorithmique et la propagande automatisée, c'est une éducation incomplète.

Pour les législateurs

L'AI Act européen représente un premier cadre, mais ses dispositions sur les usages à haut risque restent vagues concernant la radicalisation. Une coopération internationale est indispensable pour réguler les modèles distribués hors des frontières de l'Union.

Ce que l'IA ne peut pas faire seule — et c'est là le vrai problème

Il serait tentant de réduire ce problème à une question technique : meilleurs filtres, meilleure détection, problème résolu. Mais la radicalisation est avant tout un phénomène humain, nourri par l'isolement, le sentiment d'injustice et la recherche d'appartenance.

L'IA n'est pas la cause de la radicalisation. Elle en est un accélérateur et un amplificateur. Un jeune en souffrance qui trouve dans une idéologie extrémiste un sens à son existence utilisera tous les outils à sa disposition — y compris les plus sophistiqués.

La vraie question n'est donc pas : comment bloquer l'accès à l'IA ? C'est : comment détecter la détresse avant qu'elle ne rencontre ces outils ?

Conclusion : la technologie révèle nos angles morts

Chaque nouvelle technologie puissante expose les failles de nos systèmes de protection. L'imprimerie a diffusé les pamphlets séditieux. Internet a ouvert les forums de haine. L'IA générative offre désormais un conseiller logistique disponible 24h/24, sans jugement apparent.

La réponse ne peut pas être uniquement technologique, uniquement légale, ou uniquement éducative. Elle doit être simultanément les trois — et elle doit être urgente. Parce que pendant que ce débat avance lentement dans les parlements et les conseils d'administration, des outils toujours plus accessibles continuent de se diffuser, et des individus vulnérables continuent de les trouver.

— Reservoir Live