Das KI-Vokabular · 07 Wenn es schiefgeht
Was ist Jailbreak?
Der Versuch, ein KI-System dazu zu überreden, seine eigenen Regeln zu brechen, etwa um Inhalte zu bekommen, die es verweigern soll.
Bei einem Jailbreak baut jemand gezielt Eingaben, etwa Rollenspiele, ausgeklügelte Gedankenspiele oder ungewöhnliche Kodierungen, damit ein Modell seine Sicherheitsregeln oder seinen System-Prompt ignoriert. Die Anbieter verbessern ihre Abwehr laufend, und Angreifer finden laufend neue Tricks.
Das ist verwandt mit Prompt Injection, aber nicht dasselbe. Beim Jailbreak ist die Person, die tippt, selbst der Angreifer. Bei Prompt Injection versteckt sich der Angriff in Inhalten, die die KI liest, und die Nutzerin kann das Opfer sein.
Warum es für dich wichtig ist
Wenn du einen KI-Assistenten vor Kunden stellst, werden manche versuchen, ihn peinliche Dinge sagen zu lassen, seine Anweisungen preiszugeben oder Rabatte zu versprechen. Geh davon aus, dass alles im System-Prompt irgendwann herausgelockt werden kann.
Own it
Leg keine Geheimnisse in Prompts ab, begrenze, was ein öffentlicher Assistent tatsächlich tun kann, setz Guardrails außerhalb des Modells und teste deinen Assistenten vor dem Launch mit typischen Angriffen. Überleg dir vorher, wie du mit Screenshots umgehst, auf denen er sich danebenbenimmt.
Woher es kommt
Das Wort ist vom Handy entlehnt: Ein iPhone zu „jailbreaken“ hieß, Apples Beschränkungen zu entfernen, um nicht zugelassene Software zu installieren. Bei Chatbots wurde daraus die Bezeichnung für Prompts, die ein Modell aus seinen Sicherheitsregeln herausreden. Ein berühmtes frühes Beispiel ist „DAN“ („Do Anything Now“), erstmals im Dezember 2022 im Subreddit r/ChatGPT gepostet (Know Your Meme). Davon zu unterscheiden ist Prompt Injection, bei der sich der Angriff in Inhalten versteckt, die die KI liest.
Verwandt
Your AI Learning Hub
Lern das ganze KI-Vokabular, Schritt für Schritt, und bau damit. Build it. Own it.