The Math That Reads Claude's Mind (Anthropic's J-Lens Explained)
Le calcul du jacobien est expliqué correctement ; les résultats d'Anthropic sont rapportés d'après son article cité.
À nuancer : « Regarder un modèle penser » est une interprétation d'une mesure, que la vidéo présente comme un fait.
Ce que la vidéo apprend
- 0:05 Le jacobien est la dérivée d'une fonction à plusieurs variables : une grille de pentes qui indique comment un petit changement d'entrée déplace chaque sortie.
- 2:31 Le déterminant du jacobien est le facteur local de changement d'aire ; 0 écrase le carré en ligne, un signe négatif inverse l'orientation.
- 4:59 Selon Anthropic, la réponse à un problème en plusieurs étapes apparaît dans l'espace J avant d'être écrite, et la lentille a repéré un modèle qui se croyait testé.
La vidéo en bref
- 0:05 Le créateur part de la pente d'une courbe, puis l'étend aux fonctions à plusieurs entrées et sorties : une grille de pentes, la matrice jacobienne, qui donne l'effet d'un petit changement d'entrée.
- 2:11 Avec u = x + 2y et v = 3x, il montre le déterminant comme facteur d'aire (6, avec inversion). Il relie la règle de la chaîne à la rétropropagation, produit de jacobiens couche par couche.
- 3:34 La J-Lens approxime chaque couche par un jacobien moyen et garde ses directions principales : l'espace J. Elle montre des réponses avant leur écriture, puis un parallèle avec l'espace de travail global.
De quoi ça parle
La vidéo explique le jacobien (dérivée matricielle) puis la J-Lens d'Anthropic, qui lit des réponses en formation dans les couches cachées d'un modèle. Elle rapproche l'espace J d'une théorie de l'espace de travail global.
Ce qu'il faut savoir
- Point solide 6:20 Le créateur précise que c'est un parallèle fonctionnel avec une théorie de la conscience, pas la preuve qu'un modèle est conscient.
- Non-dit 5:19 « Regarder un modèle penser » est dit sans réserve : la lentille lit des représentations verbalisables, et nommer cela « pensées » est une interprétation
Carte des affirmations
Source citée : Anthropic, Transformer Circuits Thread, juillet 2026, en description
Contre-argument : La lentille mesure des représentations verbalisables corrélées à la sortie. Les appeler « pensées » est une interprétation de la mesure, comme le note un commentaire.
Source citée : Anthropic, Transformer Circuits Thread, juillet 2026, en description
Contre-argument : La vidéo ne chiffre ni la fiabilité ni les faux positifs. De là à « vérifier si le modèle dit la vérité », il y a un saut non démontré dans la vidéo.
Source citée : Anthropic, Transformer Circuits Thread, juillet 2026, en description
Contre-argument : La ressemblance avec la théorie de l'espace de travail global tient à des comportements observés. Elle ne dit rien sur une expérience vécue, et le créateur le reconnaît à 6:20.
Intérêts en jeu
Aucun sponsor, lien affilié ni produit du créateur détecté dans la description ou la transcription.
Installer Unsaid (gratuit)