Méthode éditoriale · Sources · Provenance
Ce qui est mesuré, fabriqué et emprunté.
Repères scientifiques
Les leçons reformulent ces travaux avec des exemples originaux ; aucune figure ni aucun passage n’est reproduit.
- 01Modèles n-grammes et génération par tirageShannon (1948)
- 02Modèles de langage neuronaux et vecteurs apprisBengio, Ducharme, Vincent et Jauvin (2003)
- 03Sous-mots et BPESennrich, Haddow et Birch (2016)
- 04Régularités des vecteurs de motsMikolov, Yih et Zweig (2013)
- 05Attention et architecture TransformerVaswani et al. (2017)
- 06Limites des poids d’attention comme explicationJain et Wallace (2019)
- 07Normalisation RMSNormZhang et Sennrich (2019)
- 08Positions rotatives (RoPE)Su et al. (2021)
- 09Partage des poids d’embedding (weight tying)Press et Wolf (2017)
- 10Dégénérescence du décodage et top-pHoltzman et al. (2020)
- 11RétropropagationRumelhart, Hinton et Williams (1986)
- 12SFT et préférences humaines (InstructGPT)Ouyang et al. (2022)
- 13Direct Preference OptimizationRafailov et al. (2023)
- 14Apprentissage en contexte sans mise à jour des paramètresBrown et al. (2020)
- 15Véracité et imitation des fausses croyancesLin, Hilton et Evans (2022)
- 16Génération augmentée par récupération (RAG)Lewis et al. (2020)
Corpus et données pédagogiques
Les corpus bilingues de démonstration sont écrits pour Verbatome. Ils sont volontairement petits et répétitifs afin que les comptes n-grammes et les fusions BPE restent lisibles. Les phrases « manger un avocat » et « appeler un avocat », les identifiants comme #901, les coordonnées 2D, les matrices Q/K/V, les vecteurs de position, les poids du MLP, les comparaisons de généralisation, les exemples de prompts, les passages récupérés et les trois étapes du laboratoire d’adaptation sont des exemples pédagogiques fabriqués à la main. La trajectoire et les lignes finales du jouet de la Trace finale sont, elles, calculées par le véritable optimiseur du site sur les 22 exemples affichés au chapitre 8. Rien de tout cela n’est une mesure extraite d’un modèle de production.
Polices et images
Literata et JetBrains Mono sont distribuées par Fontsource sous SIL Open Font License 1.1 ; les titres utilisent les polices d’interface du système. Le logo SVG, les cartes sociales et l’icône tactile sont des créations originales du projet. Les PNG sont générés depuis les gabarits HTML versionnés dans design/og ; aucune photographie ni illustration tierce n’est intégrée.
Politique de révision
Chaque leçon porte une date de révision dans ses métadonnées et expose ses limites près de l’instrument concerné. Une date atteste une relecture du contenu, pas une validation par des apprenants. Les essais utilisateurs et la revue d’accessibilité manuelle restent des étapes de validation distinctes avant publication.
Registre relu le 20 juillet 2026.