GPT-5 : tout le monde célèbre. Personne ne vérifie ce qu'il y a dedans.

La fête du lancement cache une question que personne ne pose à voix haute

Chaque nouveau modèle d'IA sort désormais sous les feux des projecteurs, avec ses benchmarks soigneusement sélectionnés, ses démonstrations calibrées et ses communiqués de presse millimétrés. Ce que vous ne voyez pas derrière la vitrine, c'est l'épaisseur croissante du mur entre ce que le modèle fait et ce que ses créateurs vous disent qu'il fait. Et ce mur, personne dans le grand public ne semble vraiment vouloir l'examiner.

La question de la transparence algorithmique n'est pas une préoccupation d'ingénieurs barbus dans des laboratoires de recherche. C'est un enjeu concret qui touche vos décisions professionnelles, votre confiance dans les outils que vous utilisez chaque jour, et à terme, votre capacité à garder le contrôle sur les systèmes que vous déléguez.

Qu'est-ce qu'une "boîte noire commerciale" en pratique ?

Un modèle de langage comme GPT-4, Claude 3.5 ou Gemini 1.5 est techniquement une boîte noire dès sa conception : même ses créateurs ne peuvent pas expliquer avec précision pourquoi il produit telle réponse plutôt qu'une autre. C'est inhérent à l'architecture des réseaux de neurones profonds.

Mais la boîte noire commerciale, c'est autre chose. C'est quand s'ajoute à cette opacité technique une couche délibérée d'opacité stratégique :

• Les données d'entraînement ne sont plus divulguées (OpenAI a officiellement abandonné cette pratique avec GPT-4)
• Les évaluations de sécurité sont publiées après le déploiement, non avant
• Les "system prompts" qui gouvernent le comportement du modèle restent confidentiels
• Les mécanismes de filtrage et de censure ne sont jamais documentés publiquement

Résultat : vous utilisez un outil dont vous ne connaissez ni les règles, ni les limites réelles, ni les biais intégrés. Vous faites confiance à une marque, pas à un mécanisme auditable.

La course à la vitesse comme ennemi de la vérification

Le rythme des lancements s'est considérablement accéléré depuis 2023. OpenAI, Anthropic, Google DeepMind et Meta se livrent une guerre de positions où chaque semaine compte. Cette pression temporelle a des conséquences directes sur la qualité de la documentation partagée avec le public.

En mars 2023, le rapport technique de GPT-4 — une fois véritable référence du secteur — avait été salué pour sa relative transparence. Dix-huit mois plus tard, les fiches techniques des nouveaux modèles ressemblent davantage à des plaquettes marketing qu'à des documents scientifiques. Les métriques retenues sont celles où le modèle excelle. Les limites sont évoquées en termes vagues.

Ce n'est pas de la mauvaise foi systématique. C'est la logique d'un marché où la première place se joue en semaines, et où publier ses faiblesses revient à offrir un manuel à la concurrence.

Trois exemples concrets de ce que vous ne savez pas

1. Le comportement varie selon votre pays

Les modèles déployés en Europe, aux États-Unis ou en Asie ne se comportent pas de façon identique. Des mécanismes de filtrage géolocalisés existent, rarement documentés. Ce que ChatGPT vous répond à Paris peut différer substantiellement de ce qu'il répond à Tokyo — pour les mêmes questions.

2. Les mises à jour silencieuses changent les réponses

OpenAI a mis à jour GPT-4 Turbo plusieurs fois sans changelog public détaillé. Des utilisateurs et chercheurs ont constaté des dérives comportementales significatives entre deux versions du "même" modèle — parfois plus prudent, parfois moins précis, parfois avec des angles idéologiques légèrement modifiés. Vous ne signez pas un contrat avec un système figé : vous utilisez quelque chose qui évolue sans vous prévenir.

3. Les benchmarks ne mesurent pas ce que vous utilisez

Un score de 90% sur le benchmark MMLU (raisonnement académique) ne vous dit rien sur la qualité du modèle pour rédiger vos emails, analyser vos contrats ou vous assister dans votre secteur métier. Les tests standardisés sont conçus pour être comparables, pas pour être représentatifs de vos usages réels.

Ce que cela implique pour vous, concrètement

Que vous soyez dirigeant, consultant, journaliste ou simplement curieux, utiliser ces outils en aveugle comporte des risques réels :

• Risque juridique : si vous vous appuyez sur une analyse produite par un modèle dont vous ne connaissez pas les limites, la responsabilité reste la vôtre
• Risque de biais : des biais culturels, politiques ou commerciaux intégrés à l'entraînement influencent les réponses sans que vous puissiez les détecter
• Risque de dépendance : plus vous intégrez ces outils profondément dans vos flux de travail, moins vous êtes en mesure d'auditer leur comportement

La transparence n'est pas une faveur : c'est une exigence

L'Union européenne, avec l'AI Act entré en vigueur en 2024, commence à poser des exigences de documentation pour les "modèles à usage général". C'est un premier pas. Mais la réglementation court après la technologie, et les grandes entreprises américaines ne sont pas directement soumises aux mêmes obligations.

La vraie pression viendra des utilisateurs — professionnels comme grand public — qui exigeront des comptes de manière systématique. Pas en refusant l'outil, mais en posant les bonnes questions : Quelles données ont entraîné ce modèle ? Qui a défini ses règles de comportement ? Comment puis-je vérifier ses sorties ?

Utiliser l'IA sans se poser ces questions, c'est accepter de confier une partie de votre jugement à un système dont vous ne connaissez ni les valeurs, ni les contraintes, ni les limites. Ce n'est pas une position de force. C'est une abdication tranquille, enveloppée dans une interface soignée.

La prochaine fois qu'un nouveau modèle sera annoncé avec des scores impressionnants, prenez trente secondes avant d'applaudir. Cherchez le rapport technique. Lisez les notes en bas de page. Ce que vous y trouverez — ou n'y trouverez pas — en dira souvent plus long que le communiqué de presse lui-même.

— Reservoir Live