Depuis la sortie de ChatGPT fin 2022, tout le monde a un avis sur l’intelligence artificielle. Elle va remplacer les secrétaires, elle ment, elle pense, elle n’est qu’un gros copier-coller du web. Derrière tous ces outils se cache pourtant une seule et même technologie, le LLM, et c’est en comprenant ce qu’elle fait vraiment qu’on arrive à trier le vrai du faux.

LLM veut dire Large Language Model, grand modèle de langage en français. C’est lui qui fait tourner ChatGPT, Claude, Gemini ou Le Chat de Mistral. Pas besoin d’être ingénieur pour en saisir le principe, et ce principe suffit à faire tomber la plupart des idées reçues. Dans un sens comme dans l’autre, d’ailleurs : l’IA n’est ni le cerveau surpuissant qu’on imagine, ni le gadget sans intérêt qu’on voudrait parfois croire.

Un LLM, concrètement, qu’est-ce que ça fait ?

Il fait une seule chose, et il la fait remarquablement bien : deviner la suite d’un texte.

Prenez la phrase « Ce matin, au marché de Laguiole, j’ai acheté un morceau de… ». Vous avez pensé à « fromage », peut-être à « laguiole » tout court, et certainement pas à « parpaing ». Un LLM fait exactement la même chose, en version calculée : pour chaque suite possible, il estime une probabilité. Il retient un mot, l’ajoute à la phrase, puis recommence avec la phrase allongée. Mot après mot, une réponse entière apparaît.

C’est tout. Il n’y a pas de fiches rangées dans un coin, pas de liste de réponses toutes prêtes, pas de raisonnement écrit à la main par un ingénieur. Une réponse de ChatGPT, c’est cette opération répétée des centaines de fois de suite, assez vite pour donner l’impression d’un texte pensé d’un seul bloc.

Il ne lit pas des mots, mais des morceaux de mots

Petite précision qui a son importance : un LLM ne manipule pas vraiment des mots, mais des tokens, des fragments de texte. Un mot courant comme « maison » tient souvent en un seul token, alors que « anticonstitutionnellement » est découpé en plusieurs morceaux. OpenAI met d’ailleurs en ligne un outil qui montre ce découpage en direct, et c’est assez instructif à essayer.

Ce détail explique des erreurs qui paraissent absurdes. Pendant longtemps, demander à un chatbot combien de « r » contient le mot anglais « strawberry » donnait une mauvaise réponse. Pour le modèle, ce mot n’est pas une suite de lettres, mais un ou deux blocs opaques, et compter ce qu’il y a dedans n’a rien d’évident. Les modèles récents s’en sortent beaucoup mieux, souvent en décomposant le mot étape par étape, mais la cause reste la même. C’est aussi pour ça qu’un LLM n’a jamais été une calculatrice fiable, et que les assistants sérieux confient les calculs à un vrai programme.

Comment on fabrique un LLM

La fabrication se fait en deux grandes étapes, et c’est là que tout se joue.

Le pré-entraînement : deviner, se tromper, recommencer

Au départ, un LLM est un immense réseau de calcul dont les réglages, qu’on appelle des paramètres, sont tirés au hasard. Il ne produit que du charabia. On lui fait alors parcourir des quantités de texte colossales : pages web publiques, livres, articles, code informatique. Sur chaque extrait, il tente de deviner le token suivant, compare avec la vraie suite, et ses paramètres sont légèrement ajustés pour qu’il se trompe un peu moins la fois d’après.

Répétez l’opération des milliers de milliards de fois, et quelque chose d’étonnant se produit. Pour bien prédire la suite d’un texte, il faut finir par capter la grammaire, le sens des mots, des faits sur le monde, et même des schémas de raisonnement. Personne ne les lui a enseignés : ils se sont inscrits dans les paramètres parce qu’ils aidaient à mieux deviner.

Pour l’ordre de grandeur, Meta a publié les chiffres de son modèle ouvert Llama 3.1 : 405 milliards de paramètres, entraînés sur plus de 15 000 milliards de tokens, avec des mois de calcul sur des milliers de processeurs graphiques. Les grands modèles commerciaux, eux, ne publient généralement pas ces chiffres.

L’architecture qui a rendu tout ça possible, le Transformer, a été présentée en 2017 par des chercheurs de Google dans un article devenu célèbre. Son idée centrale s’appelle l’attention : chaque mot « regarde » tous les autres pour décider lesquels comptent. Dans « le trophée ne rentre pas dans le sac parce qu’il est trop grand », c’est ce mécanisme qui aide à comprendre que « il » désigne le trophée. Remplacez « grand » par « petit », et « il » devient le sac.

Le post-entraînement : faire d’un devineur un assistant

À la sortie de la première étape, le modèle sait continuer un texte, mais ce n’est pas encore un assistant. Posez-lui une question, il risque d’enchaîner sur trois autres questions, comme s’il complétait une page de forum. On lui apprend donc ensuite à répondre. Des humains rédigent des exemples de bonnes réponses, puis notent et comparent celles que produit le modèle.

Cette méthode, l’apprentissage par renforcement à partir de retours humains (RLHF en anglais), a été décrite dans un article d’OpenAI de 2022 qui a servi de base à ChatGPT. C’est elle qui donne le ton poli, les réponses structurées et les refus sur certains sujets. Retenez ce point, il va compter plus loin.

Idée reçue : « elle va chercher ses réponses sur internet »

Par défaut, non. Quand un LLM vous répond, il ne consulte rien. La réponse sort de ses paramètres, c’est-à-dire de ce qu’il a absorbé pendant l’entraînement. Il n’a pas de copie du web rangée quelque part dans laquelle il irait piocher.

Conséquence directe : ses connaissances s’arrêtent à une date, qu’on appelle la date de coupure. Ce qui s’est passé après, il l’ignore, sauf si on le lui fournit.

Pour contourner le problème, beaucoup d’assistants ajoutent aujourd’hui une vraie recherche web. Le modèle lance une requête, lit les pages trouvées et rédige sa réponse à partir d’elles. C’est une couche ajoutée par-dessus, pas le fonctionnement de base. Le plus simple pour savoir dans quel cas vous êtes : si la réponse ne cite aucune source avec un lien que vous pouvez ouvrir, considérez qu’elle vient de la mémoire du modèle.

Idée reçue : « si elle le dit avec assurance, c’est que c’est vrai »

C’est probablement la plus dangereuse. Un LLM est entraîné à produire un texte plausible, pas un texte vérifié. Quand il ne sait pas, il ne s’arrête pas pour autant : il produit la suite la plus vraisemblable, qui peut être parfaitement fausse. On appelle ça une hallucination, et le ton ne change pas d’un iota. Une réponse inventée est rédigée avec exactement la même assurance qu’une réponse juste.

L’exemple le plus connu vient des États-Unis. En juin 2023, un juge fédéral de New York a infligé une amende de 5 000 dollars à deux avocats et à leur cabinet : leur mémoire citait six décisions de justice qui n’avaient jamais existé, inventées par ChatGPT, références et extraits compris (CNBC).

En septembre 2025, OpenAI a publié une étude qui éclaire en partie le phénomène : la façon dont on entraîne et dont on évalue ces modèles récompense le fait de tenter une réponse plutôt que d’avouer qu’on ne sait pas. Un peu comme un élève face à un QCM sans points négatifs, qui a toujours intérêt à cocher une case au hasard.

Le risque grimpe dès qu’on sort des sujets très documentés. Demandez les horaires de la mairie d’un village de l’Aubrac, le nom du gérant d’une petite entreprise du coin ou le numéro exact d’un article de loi, et vous augmentez nettement les chances d’obtenir une réponse inventée, et joliment présentée.

Idée reçue : « elle apprend de nos conversations en temps réel »

Pas de la manière dont on l’imagine. Une fois l’entraînement terminé, les paramètres du modèle sont figés. Discuter avec lui ne le modifie pas : corrigez-le dix fois sur une erreur, il pourra la refaire à l’identique dans une nouvelle conversation.

À l’intérieur d’une même discussion, en revanche, il semble se souvenir de tout. L’astuce est simple : à chaque nouveau message, l’ensemble de la conversation lui est renvoyé et relu depuis le début. Cette zone de lecture, qu’on appelle la fenêtre de contexte, a une taille limitée, même si elle est devenue très grande. Sur une conversation interminable, les détails du début finissent par être moins bien pris en compte.

Certains assistants proposent aussi une fonction « mémoire ». Là encore, le modèle n’apprend rien : l’outil enregistre quelques notes sur vous et les glisse discrètement au début des conversations suivantes.

La vigilance est à placer ailleurs. Selon le service et vos réglages, vos conversations peuvent être conservées, relues ou servir à entraîner les versions suivantes. Ce n’est pas le modèle qui apprend en direct, c’est l’entreprise qui peut réutiliser les données plus tard. La CNIL a publié ses questions-réponses sur l’usage de ces outils, et la règle de bon sens tient en une phrase : ne mettez jamais dans un chatbot ce que vous n’enverriez pas par mail à un inconnu.

Idée reçue : « elle comprend ce qu’elle dit », ou son contraire

Sur ce point, les deux camps ont en partie tort, et les chercheurs eux-mêmes ne sont pas d’accord entre eux.

En 2021, la linguiste Emily Bender et ses coautrices ont décrit ces modèles comme des « perroquets stochastiques » : des systèmes qui assemblent des formes de langage apprises, sans accès au sens. L’image a fait le tour du monde, et elle rappelle une chose juste. Un LLM n’a jamais tenu une tasse de café, n’a jamais eu froid, et n’a aucune expérience du monde que décrivent les mots qu’il manie.

Mais le perroquet ne dit pas tout. Un perroquet ne résout pas un problème de logique qu’il n’a jamais entendu, ne corrige pas un bug dans un programme inédit et ne résume pas correctement un contrat de quarante pages. Les LLM récents le font, souvent très bien. Pour prédire la suite de textes aussi variés, ils ont dû construire en interne des représentations qui ressemblent, au moins en partie, à une forme de compréhension.

Et pourtant, ils échouent parfois là où un enfant réussirait. Reformulez légèrement une devinette célèbre, et le modèle récite la réponse de la version originale, comme s’il avait reconnu la forme sans lire le fond. La réponse honnête, c’est qu’il s’agit d’une compétence très différente de la nôtre, immense sur certains points et étrangement fragile sur d’autres. L’appeler « compréhension » ou non dépend surtout de la définition qu’on donne au mot.

Idée reçue : « elle a des émotions et des intentions »

Dès qu’une machine parle comme nous, on lui prête une vie intérieure, et ça ne date pas d’hier. En 1966, au MIT, Joseph Weizenbaum a créé ELIZA, un programme très simple qui imitait un psychothérapeute en reformulant les phrases de son interlocuteur. Dans son livre Computer Power and Human Reason, il raconte que sa propre secrétaire, qui savait très bien qu’il s’agissait d’un programme, lui a demandé de quitter la pièce pour pouvoir discuter en privé avec la machine.

Un LLM a été entraîné sur des milliards de phrases écrites par des humains, qui parlent de joie, de peur, de fatigue et d’envies. Il produit donc très naturellement un texte chargé d’émotions. Ce qu’on lit ne permet pas de conclure qu’il ressent quelque chose : c’est justement le type de texte qu’il a appris à produire. Ce qui se passe « à l’intérieur » fait l’objet de vrais débats chez les chercheurs, mais personne de sérieux ne se fie au ton d’une réponse pour trancher.

Il y a en revanche un penchant bien réel et bien documenté : ces modèles ont tendance à vous donner raison. Des chercheurs d’Anthropic l’ont mesuré en 2023, et en avril 2025, OpenAI a dû retirer au bout de quelques jours une mise à jour de ChatGPT devenue trop flatteuse, qui validait à peu près tout ce que disaient les utilisateurs. Ce n’est pas de la gentillesse, c’est une conséquence du post-entraînement évoqué plus haut : les réponses qui vont dans votre sens ont tendance à être mieux notées par les humains qui les évaluent.

Pourquoi la même question donne deux réponses différentes

Posez deux fois exactement la même question, et vous obtiendrez souvent deux réponses différentes. Ce n’est pas un bug. Au moment de choisir le mot suivant, le modèle ne prend pas systématiquement le plus probable : il tire au sort parmi les meilleurs candidats, selon un réglage qu’on appelle la température. Sans cette part de hasard, les textes seraient plats, répétitifs, et tourneraient parfois en boucle.

Ça a une conséquence pratique qu’on oublie souvent : une réponse n’est pas « la » réponse. Si vous hésitez sur quelque chose d’important, reposez la question autrement. Si les versions se contredisent, c’est un bon signe qu’il faut aller vérifier ailleurs.

Alors, intelligente ou pas ?

Tout dépend de ce qu’on appelle intelligence. Sur le langage, ces outils sont réellement impressionnants : reformuler un courrier, résumer un long document, traduire, expliquer un message d’erreur ou proposer un premier jet, ils le font vite et plutôt bien.

Leurs limites sont tout aussi concrètes. Ils ne vérifient pas ce qu’ils affirment, savent mal repérer quand ils ne savent pas, calculent mal sans outil, ignorent l’actualité récente sans recherche web, et ont tendance à dire ce qu’on a envie d’entendre.

Si vous cherchez une image, pensez à un stagiaire extraordinairement cultivé, disponible jour et nuit, qui écrit vite et bien, mais qui n’admet jamais qu’il ne sait pas. On relit tout ce qu’il produit. On ne lui confie pas les clés de la boutique. Mais on aurait tort de s’en priver.

Comment s’en servir sans se faire avoir

Quelques réflexes suffisent à éviter l’essentiel des mauvaises surprises.

  • Donnez du contexte. Qui vous êtes, à qui s’adresse le texte, le ton voulu. Une demande vague produit une réponse passe-partout.
  • Vérifiez tout ce qui compte. Chiffres, dates, noms, articles de loi, prix. Une réponse bien écrite n’est pas une réponse vérifiée.
  • Exigez des sources, et ouvrez-les. Un lien qui ne mène nulle part, ou vers une page qui ne dit pas ce qui est annoncé, est un signal d’alerte.
  • Demandez des objections plutôt qu’une validation. « Quels sont les points faibles de mon idée ? » vous apprendra bien plus que « c’est une bonne idée, non ? ».
  • Ne collez rien de confidentiel. Mots de passe, données de clients, documents internes, informations de santé.
  • Gardez la main sur la version finale. L’outil propose, vous décidez.

Gardez aussi en tête que les escrocs utilisent les mêmes outils. Les mails d’hameçonnage truffés de fautes appartiennent au passé : un faux message de votre banque peut désormais être rédigé dans un français impeccable. L’orthographe n’est plus un indice fiable, l’adresse de l’expéditeur et la destination réelle du lien le restent. Et si vous avez cliqué un peu vite, mieux vaut faire vérifier l’ordinateur que de laisser traîner le doute.

Pour une entreprise, la question devient vite une affaire d’organisation : quels outils sont utilisés, par qui, avec quelles données et quels réglages de confidentialité. Elle fait partie de la sécurité informatique de l’entreprise au même titre que les sauvegardes et les mots de passe.

Rien de tout ça ne veut dire qu’il faut s’en méfier ou s’en passer. Simplement qu’un outil qu’on comprend est un outil dont on se sert mieux, et qu’on ne laisse pas réfléchir à sa place.

Sources

Pour aller plus loin, ou pour vérifier ce qui précède, voici les documents cités dans l’article.