Méthode éditoriale · Sources · Provenance
Ce qui est mesuré, fabriqué et emprunté.
Repères scientifiques
Les leçons reformulent ces travaux avec des exemples originaux ; aucune figure ni aucun passage n’est reproduit.
- 01Modèles n-grammes et génération par tirageShannon (1948) ↗
- 02Modèles de langage neuronaux et vecteurs apprisBengio, Ducharme, Vincent et Jauvin (2003) ↗
- 03Sous-mots et BPESennrich, Haddow et Birch (2016) ↗
- 04Régularités des vecteurs de motsMikolov, Yih et Zweig (2013) ↗
- 05Attention et architecture TransformerVaswani et al. (2017) ↗
- 06Limites des poids d’attention comme explicationJain et Wallace (2019) ↗
- 07Normalisation RMSNormZhang et Sennrich (2019) ↗
- 08Positions rotatives (RoPE)Su et al. (2021) ↗
- 09Partage des poids d’embedding (weight tying)Press et Wolf (2017) ↗
- 10Dégénérescence du décodage et top-pHoltzman et al. (2020) ↗
- 11RétropropagationRumelhart, Hinton et Williams (1986) ↗
- 12SFT et préférences humaines (InstructGPT)Ouyang et al. (2022) ↗
- 13Direct Preference OptimizationRafailov et al. (2023) ↗
Corpus et données pédagogiques
Les corpus bilingues de démonstration sont écrits pour Verbatome. Ils sont volontairement petits et répétitifs afin que les comptes n-grammes et les fusions BPE restent lisibles. Les phrases « manger un avocat » et « appeler un avocat », les identifiants comme #901, les coordonnées 2D, les matrices Q/K/V, les vecteurs de position, les poids du MLP, la trajectoire d’entraînement et les trois étapes du laboratoire d’adaptation sont des fixtures pédagogiques fabriquées à la main : elles illustrent un calcul ou un comportement documenté, elles ne sont pas des mesures extraites d’un modèle entraîné.
Polices et images
Bricolage Grotesque, Literata et JetBrains Mono sont distribuées par Fontsource sous SIL Open Font License 1.1. Le logo SVG, les cartes sociales et l’icône tactile sont des créations originales du projet. Les PNG sont générés depuis les gabarits HTML versionnés dans design/og ; aucune photographie ni illustration tierce n’est intégrée.
Politique de révision
Chaque leçon porte une date de révision dans ses métadonnées et expose ses limites près de l’instrument concerné. Une date atteste une relecture du contenu, pas une validation par des apprenants. Les essais utilisateurs et la revue d’accessibilité manuelle restent des portes de sortie distinctes.
Registre relu le 18 juillet 2026.