L'IA générative, c'est quoi ? Le mécanisme réel

On m'a posé la question trois fois le mois dernier, à chaque fois par quelqu'un qui utilise ChatGPT tous les jours. Savoir s'en servir et savoir ce que ça fait sont deux choses différentes, et c'est la seconde qui évite les mauvaises surprises : la mécanique, une fois comprise, explique à peu près tous les comportements bizarres de l'outil.

L'IA générative est un système entraîné à produire la suite la plus plausible de ce qu'on lui donne : un fragment de texte après l'autre pour une réponse écrite, une passe de détail après l'autre pour une image. Elle ne consulte aucune base de connaissance au moment où elle répond : elle calcule, à chaque étape, ce qui a le plus de chances de venir ensuite, et tire dans cette distribution.

Prédire la suite, un morceau à la fois

L'entraînement consiste à masquer un morceau de texte et à demander au modèle de le deviner. Des milliards de fois, sur des quantités de textes considérables. Le seul signal qu'il reçoit, c'est « tu as bien deviné » ou « tu t'es trompé » sur le morceau caché. Rien d'autre. Pas de notion de vrai ou de faux, pas de hiérarchie entre une encyclopédie et un forum : juste la régularité statistique de la langue, apprise à une échelle qu'aucun humain ne peut parcourir. À la sortie, le modèle est devenu très bon à une seule tâche, et cette tâche est de deviner ce qui manque.

Quand vous posez une question, il n'y a pas de bascule vers un autre mode de fonctionnement. Votre question devient simplement le début d'un texte, et le modèle fait ce qu'il sait faire : il calcule, pour chaque continuation possible, une probabilité, en choisit une, l'ajoute au texte, puis recommence avec le texte ainsi allongé. La réponse que vous lisez n'existait nulle part avant d'être produite, et elle n'a pas été planifiée : elle s'est construite fragment par fragment, chacun conditionné par les précédents. C'est pour ça qu'un modèle peut partir dans une direction au premier paragraphe et s'y tenir jusqu'au bout, même mauvaise. Le détail du fonctionnement d'un LLM mérite un article à lui seul, et je l'ai écrit.

Pourquoi le même prompt ne rend jamais deux fois la même chose

C'est le point qui surprend le plus quand on vient du logiciel classique. À l'étape du choix, le modèle ne prend pas systématiquement la continuation la plus probable : il tire au sort en respectant les probabilités calculées. Une option à 60 % sort souvent, une option à 5 % sort parfois. Ce réglage de hasard porte un nom technique (la température) et il n'est pas là par accident : un modèle qui prendrait toujours le maximum produit un texte plat et se bloque dans des boucles. La variabilité que vous observez est un choix de conception, pas un défaut de jeunesse.

La conséquence pratique est sous-estimée dans presque toutes les équipes que j'accompagne. Vous ne pouvez pas tester une fonctionnalité qui repose sur de la génération comme vous testez une fonction : il n'y a pas de sortie attendue unique à comparer. Ce qui se teste, c'est une plage de comportements acceptables, sur un échantillon, avec des critères que quelqu'un doit avoir définis. Et le corollaire est désagréable : relancer une requête corrige souvent une réponse ratée, ce qui donne l'illusion que le problème était accidentel. Il ne l'était pas. Le même tirage peut retomber au mauvais endroit demain, sur un sujet où personne ne regardera.

Le modèle optimise le plausible, pas le vrai

C'est de là que viennent les hallucinations, et c'est pour ça qu'elles ne disparaîtront pas par un correctif. Une réponse juste et une réponse fausse sont produites exactement de la même façon, par le même calcul, avec le même ton assuré. Rien dans le mécanisme ne les distingue, parce que rien n'y mesure la vérité. Dans l'immense majorité des cas, le plausible et le vrai se recouvrent : c'est précisément ce qui rend l'outil utile. Mais ils se séparent exactement là où vous aviez le plus besoin de précision.

Ce que vous croyez demander	Ce que la machine calcule
Le chiffre d'affaires de ce secteur	Un nombre qui ressemble à un chiffre d'affaires de secteur
L'article de loi applicable	Une référence qui ressemble à une référence de loi
La fonction exacte de cette librairie	Un appel qui ressemble à un appel de cette librairie
Ce que dit cette étude	Une conclusion que ce genre d'étude conclut souvent

Regardez la colonne de droite : dans chaque ligne, le résultat est conforme au mécanisme, et faux. Les zones à risque se repèrent assez bien. Tout ce qui est précis, arbitraire et non déductible du contexte est fragile : un chiffre, une date, un nom propre, un numéro de version, le nom exact d'un paramètre dans une API. Ce sont des informations qu'on ne peut que connaître, jamais reconstituer par vraisemblance, et c'est justement là que le modèle fabrique avec le plus d'aplomb.

Un système qui produit du plausible ne vous préviendra jamais qu'il vient de sortir de la zone où le plausible est aussi vrai.

Texte, image, code : un seul principe

Le mot « générative » recouvre des outils qui semblent très différents et qui partagent la même logique. Un générateur d'images ne dessine pas : il part d'un brouillard aléatoire et le ramène, par passes successives, vers quelque chose qui ressemble statistiquement à ce que votre description évoque. D'où les défauts que tout le monde a vus : une main à six doigts est parfaitement cohérente avec « ce à quoi ressemble une main » au niveau des textures et des contours, et incohérente avec le fait qu'une main a cinq doigts, fait qui n'est nulle part dans le mécanisme.

Le cas du code est le plus traître des trois, parce que le code généré est du texte lui aussi, donc la continuation la plus plausible. Et du code plausible, ça compile, ça se lit bien, ça porte des noms de variables sensés. Le recouvrement entre « plausible » et « correct » y est très élevé, assez pour faire gagner un temps réel, et jamais total. L'écart se niche dans un cas limite non traité, un appel d'API qui n'existe pas tout à fait, une condition inversée. Rien de tout ça ne se voit à la vitesse de lecture, et c'est pourquoi la relecture par quelqu'un qui connaît le domaine n'est pas une formalité.

Ce qui reste à l'humain : vérifier, et savoir quoi vérifier

Si la machine produit du vraisemblable, alors le travail humain se déplace : il passe de la production à la validation. Ce n'est pas un travail moindre, mais il demande plus d'expertise, pas moins. Sur un sujet que vous maîtrisez, vous repérez une réponse fausse en quelques secondes et vous remettez l'outil sur les rails. Sur un sujet que vous ignorez, rien ne vous permet de distinguer une bonne réponse d'une réponse qui en a l'air. C'est le paradoxe le plus mal compris de ces outils : ils amplifient l'expertise au lieu de la remplacer.

Ce qui donne un critère de décision simple, et plus utile qu'une liste de bonnes pratiques. Avant de confier une tâche à un système génératif, demandez-vous combien coûte la vérification de son résultat. Si elle est rapide et fiable (un test qui passe ou qui casse, un brouillon que vous alliez réécrire de toute façon), le gain est franc. Si vérifier coûte aussi cher que produire, ou si personne dans l'équipe ne sait vérifier, vous n'avez pas gagné du temps : vous avez déplacé un risque vers l'aval, là où il se paiera plus cher. C'est le raisonnement que je déroule dans mes formations à l'IA agentique.

Il y a quelque chose de rassurant dans la modestie du mécanisme. Un outil qui produit du plausible n'est ni une intelligence ni une imposture : c'est une machine à premiers jets, efficace quand on sait où regarder derrière elle. L'erreur que je vois le plus souvent n'est pas de trop lui faire confiance, c'est de ne pas avoir décidé qui vérifie, à quel moment et sur quels critères. Cette décision est organisationnelle, elle n'a rien à voir avec le choix du modèle, et c'est elle qui sépare les équipes qui en tirent quelque chose. Pour la poser proprement, le guide sur l'IA agentique donne la méthode.