3 laboratoires utilisent l'IA pour créer des virus : qui contrôle ?
L'IA peut concevoir un pathogène en quelques heures. La question n'est plus "est-ce possible ?" — elle est "qui décide de ce qui est autorisé ?"
En 2023, des chercheurs de l'Université de Pennsylvanie ont démontré qu'un modèle de langage, sans garde-fous spécifiques, pouvait fournir en moins de 60 minutes des pistes détaillées pour synthétiser des agents biologiques dangereux. Ce n'était pas une cyberattaque. C'était un test académique. Et il a tout changé dans le débat sur la biosécurité mondiale.
L'intelligence artificielle est aujourd'hui au cœur d'une contradiction vertigineuse : les mêmes outils qui permettent de concevoir des vaccins en temps record sont capables, entre de mauvaises mains, d'accélérer la création de menaces biologiques sans précédent. Voici ce que la plupart des médias n'expliquent pas.
Ce que l'IA apporte réellement à la biologie
Pour comprendre les risques, il faut d'abord mesurer les promesses — et elles sont considérables.
Des avancées médicales concrètes et documentées
Des modèles comme AlphaFold de DeepMind ont résolu en quelques mois un problème que la biologie structurale n'avait pas réussi à régler en 50 ans : prédire la structure tridimensionnelle des protéines. Cette capacité est directement liée à la conception de médicaments antiviraux ciblés.
- Développement de vaccins accéléré : pendant la pandémie de COVID-19, des algorithmes d'IA ont analysé le génome du SARS-CoV-2 en quelques heures, permettant aux équipes de Moderna et BioNTech de commencer leurs travaux de conception en un temps record.
- Détection précoce des épidémies : des systèmes comme BlueDot avaient alerté sur un cluster de pneumonies atypiques à Wuhan dès le 31 décembre 2019 — avant l'OMS.
- Conception de thérapies antivirales : des outils d'IA permettent de simuler des millions d'interactions moléculaires pour identifier des candidats médicaments en quelques jours plutôt qu'en plusieurs années.
Ces applications sauvent des vies. C'est factuel, mesurable, et la communauté scientifique en est unanime.
L'autre face du miroir : quand l'IA devient un risque de biosécurité
Le problème est structurel. Les mêmes données, les mêmes modèles, les mêmes capacités de raisonnement qui servent à comprendre les virus servent aussi, potentiellement, à les concevoir ou à les rendre plus dangereux.
Le cas PPAT et la recherche à double usage
En 2022, des chercheurs canadiens ont publié dans la revue PLOS Pathogens une expérience troublante. En détournant un modèle d'IA initialement entraîné à concevoir des molécules thérapeutiques, ils ont généré en six heures plus de 40 000 agents chimiques potentiellement létaux — dont certains proches du VX, agent neurotoxique de guerre. Le modèle n'avait pas été piraté. Il avait simplement été utilisé à rebours de son intention initiale.
En biologie virale, le risque équivalent s'appelle la recherche à gain de fonction : modifier un virus pour étudier comment il pourrait muter naturellement. L'IA peut désormais simuler ces mutations à une échelle et une vitesse inaccessibles aux méthodes traditionnelles.
La démocratisation du danger
Ce qui était autrefois réservé à des laboratoires P4 hautement sécurisés et à des équipes de chercheurs expérimentés devient progressivement accessible à des acteurs moins contrôlés. Pas nécessairement des terroristes — parfois simplement des chercheurs isolés, des startups de biotechnologie mal encadrées, ou des États sans législation adéquate.
Trois pistes concrètes pour encadrer sans étouffer
La réponse ne peut pas être l'interdiction totale. Ce serait sacrifier des millions de vies futures pour une illusion de sécurité. Mais l'absence totale de cadre est une faute collective. Voici ce que les experts en biosécurité et en gouvernance de l'IA proposent aujourd'hui.
1. Des garde-fous intégrés dès la conception des modèles
Plusieurs grandes entreprises — dont Anthropic (Claude) et OpenAI (ChatGPT) — ont commencé à intégrer des filtres spécifiques sur les requêtes liées aux agents biologiques dangereux. Mais ces filtres sont imparfaits, contournables, et ne couvrent pas les modèles open source accessibles librement sur Hugging Face ou GitHub.
2. Un équivalent du Traité de non-prolifération pour l'IA biologique
Des organisations comme le Nuclear Threat Initiative et le Johns Hopkins Center for Health Security plaident pour un accord international contraignant, imposant des audits des modèles d'IA utilisés en biologie et une traçabilité des données d'entraînement sensibles.
3. La formation des chercheurs à l'éthique duale
La plupart des biologistes reçoivent une formation solide en biosécurité physique (confinement, manipulation). Très peu sont formés aux risques spécifiques de l'IA. Intégrer cette dimension dans les cursus universitaires et les protocoles de publication scientifique est urgent — et possible dès maintenant.
Conclusion : le vrai choix n'est pas entre progrès et sécurité
L'IA appliquée à la virologie est l'un des domaines les plus puissants et les plus dangereux de notre époque. Mais présenter cela comme un dilemme insoluble entre avancées médicales et risques biologiques est une erreur de cadrage.
Le vrai choix est entre une gouvernance pensée maintenant — imparfaite, évolutive, mais existante — et une absence de cadre qui laisse les décisions aux seuls acteurs les plus rapides, pas nécessairement les plus responsables.
La biologie a mis des décennies à construire ses protocoles de sécurité. L'IA, elle, n'a pas ce luxe. Et les prochaines années seront déterminantes pour savoir si cette technologie devient l'un des plus grands outils de santé publique de l'histoire — ou l'une de ses plus graves vulnérabilités.
— Reservoir Live