ChatGPT ne peut pas tout savoir : la preuve mathématique d'Turing

Ce que ChatGPT, Gemini et Claude ont en commun avec une machine des années 1930

Avant que le mot "algorithme" ne devienne banal, un mathématicien britannique a démontré, stylo en main, qu'aucune machine ne pourrait jamais tout résoudre. Cette preuve, publiée en 1936, signe l'acte de naissance de l'informatique moderne — et trace en même temps ses frontières définitives. Aujourd'hui, alors que des milliards de personnes utilisent ChatGPT ou Gemini comme s'ils étaient omniscients, cette démonstration vieille de 90 ans reste plus pertinente que jamais.

Alan Turing : l'homme qui a inventé l'IA en prouvant ses limites

En 1936, Alan Turing publie un article fondateur dans lequel il conceptualise ce qu'on appellera la machine de Turing : un automate abstrait capable d'exécuter n'importe quel calcul exprimable sous forme de règles. C'est l'ancêtre théorique de tous les ordinateurs modernes.

Mais Turing ne s'arrête pas là. Dans le même article, il démontre quelque chose d'encore plus radical : il existe des problèmes que cette machine ne pourra jamais résoudre, quelles que soient sa puissance et sa vitesse. Le plus célèbre d'entre eux s'appelle le problème de l'arrêt.

Le problème de l'arrêt : une idée simple, une conclusion foudroyante

Imaginez qu'on demande à un programme informatique de regarder un autre programme et de répondre à cette question : "Ce programme va-t-il finir par s'arrêter, ou tourner en boucle indéfiniment ?"

Intuitivement, on se dit qu'un ordinateur suffisamment puissant devrait pouvoir répondre. Turing prouve le contraire : un tel programme universel est mathématiquement impossible à construire. La démonstration repose sur un argument par contradiction élégant — si ce programme existait, on pourrait construire un paradoxe logique qui le force à se contredire lui-même.

Ce n'est pas une question de puissance de calcul insuffisante. C'est une impossibilité structurelle, gravée dans la logique elle-même.

Pourquoi cela concerne directement ChatGPT et les LLM d'aujourd'hui

Les grands modèles de langage comme ChatGPT (OpenAI), Claude (Anthropic) ou Gemini (Google) sont des machines de Turing déguisées en assistants conversationnels. Ils obéissent aux mêmes règles fondamentales. Les limites identifiées par Turing s'appliquent donc directement à eux, sans exception.

Concrètement, cela signifie que ces systèmes :

• Ne peuvent pas déterminer avec certitude si un raisonnement complexe est vrai ou faux dans tous les cas possibles
• Ne peuvent pas prédire leur propre comportement avec une précision absolue dans toutes les situations
• Ne peuvent pas résoudre certaines classes de problèmes, peu importe la taille du modèle ou la quantité de données d'entraînement
• Peuvent produire des "hallucinations" — des réponses fausses mais confiantes — en partie parce que la vérification systématique de la vérité est indécidable

Ces limitations ne sont pas des bugs à corriger dans la prochaine mise à jour. Ce sont des propriétés mathématiques fondamentales.

Le théorème d'incomplétude de Gödel : le complice de Turing

Turing n'est pas seul. En 1931, Kurt Gödel avait déjà démontré que tout système logique suffisamment puissant contient des vérités qu'il ne peut pas prouver lui-même. Ces deux théorèmes fonctionnent en tandem : Gödel brise l'omniscience logique, Turing brise l'omniscience calculatoire. Une superintelligence qui prétendrait dépasser ces deux barrières ne serait pas une machine — elle serait quelque chose qui n'existe pas dans notre univers mathématique.

Ce que cela change vraiment dans votre usage de l'IA

Comprendre ces limites n'est pas un exercice académique. C'est un outil pratique pour mieux utiliser ces technologies.

Quand vous demandez à Claude d'analyser un contrat juridique complexe ou à ChatGPT de vérifier un code critique, vous devez intégrer que leur confiance apparente n'est pas une garantie de justesse. Ces systèmes excellent à produire des réponses vraisemblables — ils ne peuvent pas garantir des réponses vraies dans tous les cas.

La bonne posture n'est pas la méfiance systématique, mais le discernement informé : utiliser l'IA comme un assistant brillant et faillible, non comme un oracle.

La vraie question que personne ne pose

Le débat public sur l'IA se focalise sur la puissance croissante des modèles, les risques existentiels, ou les emplois menacés. Rarement sur cette question centrale : jusqu'où peut-on aller, mathématiquement parlant ?

Turing y a répondu il y a 90 ans. Une superintelligence omnisciente n'est pas une question de budget R&D ou de nombre de paramètres — c'est une impossibilité logique démontrée. L'IA peut être prodigieusement utile, créative et surprenante. Elle ne sera jamais omnisciente.

La prochaine fois que vous lirez qu'un nouveau modèle "dépasse l'intelligence humaine", rappelez-vous : Alan Turing a prouvé, avec une feuille de papier et de la rigueur, que même la plus puissante des intelligences artificielles ne pourra jamais tout savoir. Et cette frontière-là, aucune startup ne la franchira.

— Reservoir Live