Das KI-Vokabular · 07 Wenn es schiefgeht

Was ist Lethal Trifecta?

Die gefährliche Kombination aus privaten Daten, nicht vertrauenswürdigen Inhalten und einem Weg nach außen in einem KI-Agenten.

Fortgeschritten

Die Lethal Trifecta, die tödliche Dreierkombination, ist eine Faustregel des Entwicklers Simon Willison. Gefährlich wird ein Agent, wenn er drei Dinge vereint: Zugriff auf private Daten, Kontakt zu Inhalten, die ein Angreifer steuern kann, etwa Webseiten oder eingehende E-Mails, und einen Weg nach außen, etwa E-Mails senden oder Links laden.

Kommen alle drei zusammen, kann eine versteckte Anweisung in einem Dokument, ein Fall von Prompt Injection, den Agenten dazu bringen, private Daten zu sammeln und an den Angreifer zu schicken. Modelle können Anweisungen und Daten noch nicht verlässlich unterscheiden. Willison rät darum, die ganze Kombination zu vermeiden, statt auf Filter zu vertrauen.

Warum es für dich wichtig ist

Viele nützliche Aufbauten enthalten alle drei Teile, ohne dass es jemand merkt: ein Assistent, der dein Postfach liest, im Web surft und Nachrichten senden kann. Jeder neue Anschluss kann die Kombination vervollständigen und zu einem Datenleck führen.

Own it

Bevor du ein neues Werkzeug anschließt, prüf die drei Teile. Liest ein Agent fremde Inhalte und sieht private Daten, nimm ihm den Weg nach außen oder verlange eine Freigabe für jede Nachricht, die er sendet.

Verwandt