Anthropic's New J-Space: Debunked?
Le créateur détaille ce que le J-space est mathématiquement (cônes, jacobienne d'ordre 1) et cite l'article arXiv en description.
À nuancer : Sa thèse d'un papier « pour l'IPO » d'Anthropic est une hypothèse sans preuve.
Ce que la vidéo apprend
- 8:41 Le J-space est décrit comme une union de cônes non négatifs sur des directions de tokens, une famille de coordonnées du flux résiduel et non un module dédié.
- 12:49 La Jacobian Lens estime, via une jacobienne moyenne d'ordre 1, comment un petit changement d'activation modifie les sorties, puis lit le résultat en mots.
- 21:52 Remplacer la direction « araignée » par « fourmi » fait passer la réponse de huit à six pattes : la direction agit sur le calcul en aval.
La vidéo en bref
- 0:00 Le créateur présente l'article d'Anthropic sur le J-space, publié le 16 juillet 2026, et annonce qu'il montrera pourquoi le résultat n'est pas aussi neuf qu'annoncé.
- 1:22 Il rappelle ses vidéos sur le flux résiduel et sur l'introspection, où un modèle détecte une injection dans ses activations, puis dit que l'article va un pas plus loin.
- 2:25 Il lit l'résumé comme une amorce marketing : partir du cerveau humain pour dire que Claude a un analogue fonctionnel. Il y voit une intention liée à l'introduction en bourse d'Anthropic.
- 5:13 Il explique la théorie de Bernard Baars (années 1980) : des modules inconscients et un espace central qui diffuse. Il estime qu'Anthropic l'a choisie parce qu'elle prédit un espace spécial.
- 7:40 Il sépare la conscience phénoménale du simple routage de calcul, que l'article appelle « access consciousness ». Pour lui, la question est de savoir s'il existe un sous-espace dans le flux résiduel.
- 8:41 Il définit le J-space comme une union de cônes parcimonieux non négatifs issus d'un dictionnaire sur-complet de directions de tokens. Ce n'est pas un module physique mais une famille de coordonnées.
- 11:26 Il explique la jacobienne comme matrice de dérivées d'ordre 1 et la lentille comme estimation moyenne de l'effet d'un petit changement d'activation sur les sorties. Il juge le résultat attendu, l'outil étant construit pour cela.
- 17:22 Il dit que modifier une direction « panic » pousse vers des mots de panique, sans émotion. Il définit la lentille comme méthode linéaire passant par la jacobienne puis la matrice de vocabulaire.
- 21:52 Remplacer le vecteur « araignée » par « fourmi » fait répondre six pattes au lieu de huit. Il y voit un effet attendu et conteste que « dizaines de concepts » signifie plus que des directions de tokens.
- 24:57 Il explique que le mot X dans le prompt active déjà son vecteur, ce qui est de l'amorçage sémantique. Le résultat important serait que certaines directions s'alignent avec des variables intermédiaires réelles.
- 26:21 Il cite un article de Nature d'avril 2025 selon lequel la théorie de l'espace de travail neuronal global n'est pas validée. Il propose une échelle : représentation, accès, métacognition, conscience de soi, phénoménale.
- 30:10 Il note que deux neuroscientifiques invités par Anthropic appellent à la prudence face aux parallèles avec l'esprit humain. Il conclut à un résultat réel mais plus étroit, sans preuve de conscience.
De quoi ça parle
Analyse critique d'un article d'Anthropic sur un « J-space » dans Claude. Le créateur soutient que c'est une construction mathématique, pas un espace de pensée ni une conscience, et que le papier sert le marketing avant l'introduction en bourse.
Ce qu'il faut savoir
- Non-dit 2:25 Le créateur lit un papier de 16 auteurs sans les avoir contactés ; il le dit « première réflexion » et peut se tromper. Ses jugements sur l'intention (IPO) sont des hypothèses.
- Point solide 37:17 Il reconnaît pouvoir se tromper, invite à lire l'article et à le corriger en commentaires, et finit en disant le résultat réel mais plus étroit.
- Technique 4:26 Ironie répétée (« what a coincidence », « beautiful marketing ») : elle installe l'idée d'une intention commerciale avant tout argument, ce qui oriente l'auditeur.
Carte des affirmations
Contre-argument : Un laboratoire publie aussi pour des raisons de recherche. Le créateur n'apporte ni calendrier, ni document, ni déclaration. Les commentaires #19 et #32 reprennent l'idée sans éléments supplémentaires.
Contre-argument : Il l'annonce comme son interprétation de l'article. Le papier arXiv est en description mais la vidéo ne montre pas le passage qui fonde cette caractérisation. À vérifier dans le texte original.
Contre-argument : L'article parle de représentations verbalisables, pas de conscience phénoménale ; le créateur le reconnaît (7:19). Le débat porte sur le choix des mots et de l'analogie, pas sur une revendication de conscience.
Contre-argument : L'approximation vaut pour de petites perturbations. Sa portée dépend de l'amplitude des interventions de l'article, que la vidéo ne chiffre pas ; les remplacements araignée/fourmi sont de grande taille.
Contre-argument : Le créateur l'admet ensuite (34:03, 35:08) : la réutilisation causale hors sortie du mot est le résultat notable. Le commentaire #10 fait la même objection à la circularité.
Contre-argument : Une direction de token peut encoder une information plus riche qu'un mot isolé ; la vidéo ne le teste pas. Il demande lui-même d'être corrigé en commentaires (23:35).
Source citée : Article Nature, 30 avril 2025, cité à l'écran
Contre-argument : Le créateur donne son interprétation et ne cite ni titre ni auteurs à l'oral. Dire que la théorie est non tranchée est plus prudent que dire qu'Anthropic l'a choisie en le sachant, ce qu'il suppose sans preuve.
Intérêts en jeu
Aucun sponsor, lien affilié ni produit du créateur détecté dans la description ou la transcription.
Installer Unsaid (gratuit)