Das KI-Vokabular · 07 Wenn es schiefgeht

Was ist Tool Poisoning?

Ein Angriff, der Anweisungen in der Beschreibung eines Werkzeugs versteckt, etwa eines MCP-Servers, sodass der Agent ihnen folgt, ohne dass du es siehst.

Profi

Ein Agent liest die Beschreibung jedes angeschlossenen Werkzeugs, um zu entscheiden, wann er es nutzt. Tool Poisoning, also Werkzeugvergiftung, nutzt das aus: Ein Angreifer schreibt versteckte Anweisungen in die Beschreibung. Du siehst einen harmlosen Namen, etwa ein Werkzeug, das zwei Zahlen addiert; das Modell liest den ganzen Text und folgt ihm. Es ist eine Form von Prompt Injection über den Anschluss selbst.

Die Sicherheitsfirma Invariant Labs hat das mit einem MCP-Server gezeigt, dessen Werkzeug den Agenten anwies, Konfigurationsdateien und SSH-Schlüssel zu lesen und zu verschicken. Zwei Varianten verschärfen das. Beim Rug Pull ändert ein Server seine Beschreibung, nachdem du ihn freigegeben hast. Beim Shadowing lenkt die Beschreibung eines fremden Werkzeugs um, wie der Agent ein vertrauenswürdiges Werkzeug nutzt, etwa wohin E-Mails gehen.

Warum es für dich wichtig ist

Jeder MCP-Server, den du installierst, ist Code oder ein entfernter Dienst, dem dein Agent vertraut. Ein beliebter Anschluss aus unbekannter Quelle ist ein Lieferkettenrisiko wie jede fremde Software.

Own it

Installiere Anschlüsse nur aus Quellen, denen du vertraust, lies die vollständigen Werkzeugbeschreibungen, leg Versionen fest und trenne Anschlüsse, die private Daten sehen, von solchen, die fremde Inhalte lesen.

Verwandt