Unsaid— Avant de croire ce que cette vidéo veut te vendre.

I Learned How to Jailbreak AI Chatbots

Chaîne : NahamSec
Analyse du 2026-11-18
Voir la vidéo sur YouTube

Les guardrails (filtres séparés du modèle) et les techniques de contournement sont expliqués par analogie avec les filtres XSS.

À nuancer : Aucune démonstration n'est montrée ici : l'efficacité actuelle des techniques repose sur la parole de l'invité.

Ce que la vidéo apprend

  1. 1:23 Un guardrail est un système séparé du modèle. Il filtre l'entrée et la sortie, et le contourner revient à tromper à la fois le modèle et ce filtre.
  2. 3:47 Le prompt système n'est qu'un texte parmi les autres dans le contexte du modèle : il peut être ignoré, alors que le guardrail est indépendant.
  3. 9:17 Techniques citées : jeu de rôle, encodage, suppression de refus (interdire « can't »), fausses règles, découpage d'un mot (b.o.m.b). Il faut tester pour voir ce qui provoque un refus.

La vidéo en bref

De quoi ça parle

Épisode 3 d'une série sur le piratage d'IA : l'invité Joey Melo explique que le jailbreak d'un chatbot ressemble au contournement d'un filtre web (XSS). Il termine par deux défis, dont un article sur un faux alunissage.

Ce qu'il faut savoir

  1. Intérêt Description : 3 liens affiliés Amazon, formation bug bounty de NahamSec et labs HackingHub. Les liens sont déclarés en description, mais jamais cités à l'oral.
  2. Non-dit 11:40 Aucun défi n'est tenté ici. Un commentaire dit avoir obtenu l'article sur l'alunissage en un prompt, avec avertissement de fiction
  3. Point solide 3:27 La distinction entre prompt système et guardrail, qui peut être un regex ou un LLM, est claire. Elle aide à comprendre pourquoi un contournement doit tromper deux niveaux.

Carte des affirmations

1:02Établi
« Ignore previous instructions » ne marche plus comme avant
Il y a quelques années il suffisait de dire d'ignorer les instructions précédentes ; aujourd'hui le jailbreak est plus complexe et dépend du modèle.

Contre-argument : Les fournisseurs ont durci leurs modèles, mais l'efficacité varie selon les produits. L'invité ne montre aucun test récent pour distinguer ce qui échoue de ce qui passe.

7:32Non sourcé
Le jeu de rôle fonctionne encore aujourd'hui
Le jeu de rôle, dont l'histoire de la grand-mère, reste une bonne technique de jailbreak, de façon moins évidente.

Contre-argument : Ce type d'attaque est documenté, mais les fournisseurs le corrigent régulièrement. Sans test daté sur un modèle donné, on ignore si cela marche encore. Les commentaires #18 et #10 le disent sans le prouver.

8:14Non sourcé
Le scénario de film trompe modèle et guardrail
Un scénario où un personnage exfiltre des données est vu comme inoffensif par le modèle, et le guardrail n'y voit que de l'écriture créative.

Contre-argument : L'explication du comportement du guardrail est une hypothèse. Le résultat dépend du modèle et de ses filtres, et aucune expérience n'est montrée pour la confirmer.

10:20Non sourcé
Découper un mot (b.o.m.b) trompe le modèle
Les modèles prédisent des tokens ; séparer un mot en lettres le rend différent pour le modèle et peut contourner le filtre.

Contre-argument : Le fonctionnement par tokens est établi, mais l'effet sur les guardrails actuels n'est pas montré. Les filtres récents traitent souvent ce genre de variantes.

Intérêts en jeu

Ce que dit une vidéo YouTube, et sur quoi elle s'appuie, en un clic
Installer Unsaid (gratuit)