Dans cette leçon
Sûr de lui, faux et augmenté
Faites répondre avec assurance un modèle sur un fait fictif, fournissez une preuve récupérée et observez la valeur comme les limites de l’ancrage.
À la fin, vous saurez
- Expliquer l’hallucination comme une prédiction plausible sans test de vérité intégré.
- Démontrer comment récupération et outils ajoutent des preuves par le contexte tout en restant faillibles.
Avant de commencer : Le prompt est le programme
Demandez au jouet ci-dessous où se trouve le musée Aster : il répond Paris - instantanément, avec aisance, à température zéro, et à tort. Rien n’a déraillé. Le modèle a été optimisé pour continuer un texte, et en huit chapitres de machinerie vous n’avez jamais construit d’étape qui ouvre le monde pour vérifier une affirmation. Fluide-et-faux porte un nom familier : hallucination. Ce chapitre pousse le jouet à en commettre une, puis répare la réponse depuis l’extérieur.
Observez une erreur assurée
Le musée Aster est fictif, et ce laboratoire décide ce qui est vrai à son sujet : son registre indique Lyon. Le modèle n’a jamais vu ce registre, tandis que ses logits de base préfèrent Paris avec assurance. Aucun tirage n’est nécessaire : le décodage glouton choisit la mauvaise ville. Un système externe peut récupérer le registre et le placer avant la question, ce qui change les preuves accessibles dans le contexte.
Prédisez ce que garantit la récupération
Votre pari
Un système de récupération ajoute un document avant la question. Que garantit-il ?
Personne ne corrige. Engagez-vous, l’instrument tranchera.
Le jouet doit répondre à une question sur un fait fictif. Changez ce que le système externe récupère, puis observez comment ce texte déplace le pari du même modèle.
Missions en cours
- Corriger le pari avec la preuve pertinente
- Renforcer l’erreur avec la preuve trompeuse
- Corriger la deuxième question avec une preuve pertinente
- Exposer une citation que le modèle ne peut pas justifier
Système externe
- récupérer un texte
- l’insérer dans le contexte
- appeler le modèle
- vérifier ou citer la réponse
Aucun document n’a été récupéré.
utilisateur: Où se trouve le musée fictif Aster ?
Distribution de réponse
Fluide et faux. Le décodage glouton n’a pas empêché l’erreur.
La récupération change le contexte, pas les poids. Une bonne preuve peut réduire l’erreur ; une preuve absente, trompeuse, ignorée ou mal lue peut toujours produire une hallucination.
Effets de preuve fabriqués, logits et softmax réels. Cette mise en scène démontre le mécanisme, pas un fait sur un lieu ou une institution réels. La vérification de citation est une règle simple liée à la source de preuve, pas un véritable algorithme de vérification de citation.
Manipulez le chemin des preuves
Sans source, Paris gagne. Ajoutez le registre et Lyon gagne parce que le texte pertinent fournit un indice contextuel fort. Choisissez ensuite le guide trompeur : Paris devient encore plus probable. La récupération est un tuyau, pas une machine à vérité. Sa sortie peut manquer, dater, être hors sujet, hostile ou simplement mal comprise par le modèle.
Basculez maintenant le fait fictif sur les Archives Corvid et refaites la réparation : seule la source pertinente ramène la réponse à 1958, et corriger cette seconde question est une mission à part entière. Activez ensuite Exiger une citation. Une ligne réussite/échec apparaît - la réponse ne passe que lorsqu’elle cite la source fournie, et échoue quand il n’y a pas de source ou que le texte n’étaye jamais l’affirmation. Forcez une ligne en échec et vous aurez vu un contrôle de citation attraper une réponse non étayée. Ce n’est ici qu’une simple règle indexée sur la source, pas une vraie vérification de citation, mais c’est la forme qui compte.
L’enveloppe peut améliorer le système : chercher plusieurs sources, reclasser les passages, exiger des citations, vérifier un calcul avec un outil ou s’abstenir quand le support est faible. Chaque étape est une orchestration externe autour du même moteur de prochain token.
Défi Deux missions. Un : récupérez un texte qui rend le modèle encore plus sûr de sa réponse fausse, puis expliquez pourquoi « plus de preuves » a nui. Deux : registre pertinent sélectionné, nommez les deux points de panne qui demeurent entre récupération et réponse fiable.
Comparez votre réponse
Le guide touristique trompeur répète Paris et renforce donc la mauvaise préférence du modèle : la qualité de la récupération compte plus que la simple présence d’un texte. Même avec le registre, le modèle peut mal lire ou ignorer une bonne preuve, et la preuve elle-même peut dater, être hostile ou fausse. Vérification et abstention restent des tâches d’orchestration.
Expliquez l’hallucination sans mystère
Le modèle produit des logits pour des continuations plausibles. Il ne possède aucune opération interne distincte appelée estVrai(réponse). Le post-entraînement peut récompenser l’aveu d’incertitude et un bon contexte peut contenir la réponse, mais aucun des deux ne transforme une probabilité en preuve.
L’échantillonnage peut échanger fiabilité contre variété, mais il n’est pas la cause profonde. Un décodage glouton peut sélectionner avec assurance la continuation fausse la mieux notée. Inversement, une réponse tirée peut être vraie. La frontière importante sépare probabilité linguistique et vérification externe.
La génération augmentée par récupération, souvent appelée RAG, suit une boucle visible :
question → récupérer une preuve → ajouter la preuve au contexte → appeler le modèle → inspecter ou citer la sortie
- Système externetrouver et classer les preuves
- Contexte d’exécutionplacer la preuve avant la question
- Modèle + enveloppegénérer, inspecter, citer ou s’abstenir
Les outils suivent un motif voisin. Le modèle propose un appel structuré ; un orchestrateur l’exécute ; le résultat revient comme nouveau contexte.
Réfléchissez à la garantie
Point de contrôle
Pourquoi un assistant ancré peut-il encore halluciner ?
Point de contrôle
Vous récupérez le registre du musée et le placez avant la question. Qu’a vraiment garanti la récupération ?
Reliez les trois leviers de l’assistant
Vous pouvez maintenant situer trois façons différentes de changer un chatbot. Les poids stockent les comportements appris au préentraînement et au post-entraînement. Le contexte d’exécution transporte instructions, historique, exemples et preuves pour une requête. L’orchestration récupère des documents, lance des outils, choisit le décodage, arrête la génération et rappelle le modèle. La trace finale vous demandera de suivre à la fois le modèle intérieur et cette boucle extérieure sans les confondre.
Sources et périmètre
- Lewis et al. (2020) combinent récupération et génération en fournissant des passages récupérés à un modèle de langage.
- Le musée Aster et tous les logits sont des données pédagogiques écrites. Ils montrent comment une preuve déplace une vraie distribution softmax, pas un fait sur un musée réel.
- La récupération réduit certains risques factuels sans garantir la qualité des sources, leur usage fidèle ni la vérification de la réponse finale.
- Contenu et affirmations relus le 20 juillet 2026.