Das KI-Vokabular · 05 Agenten

Was ist Autonomiestufen von Agenten?

Eine Skala dafür, wie viel du einem KI-Agenten überlässt, vom Steuern jedes Schritts bis zum bloßen Zuschauen.

Fortgeschritten

Wie selbstständig soll ein Agent handeln? K. J. Kevin Feng, David W. McDonald und Amy X. Zhang schlagen fünf Stufen vor, bestimmt durch die Rolle, die du einnimmst:

• Operator: Du führst und entscheidest, der Agent hilft auf Abruf.
• Collaborator: Ihr plant und arbeitet gemeinsam, und beide Seiten können übernehmen.
• Consultant: Der Agent macht den Großteil der Arbeit, du gibst Feedback und Richtung, wenn er fragt.
• Approver: Der Agent steuert den Ablauf und kommt nur bei Hindernissen oder folgenreichen Schritten zu dir.
• Observer: Der Agent handelt allein, du siehst die Protokolle und hast einen Notschalter.

Ihr Kernpunkt: Autonomie ist eine Designentscheidung, getrennt davon, wie fähig das Modell ist. Auch ein sehr fähiger Agent kann bewusst auf niedriger Stufe bleiben.

Eine zweite Unterscheidung stammt von Anthropic. Systeme mit festen, vorab programmierten Abläufen nennt es Workflows, Systeme, in denen das Modell seinen Ablauf und seine Werkzeuge selbst lenkt, Agenten. Das beschreibt, wie ein System gebaut ist, nicht, wie viel du es entscheiden lässt.

Warum es für dich wichtig ist

Je höher die Stufe, desto weniger siehst du, bevor etwas passiert. Die richtige Stufe hängt vom Risiko ab: Eine E-Mail zu entwerfen, kann allein laufen. Geld zu überweisen oder Daten zu löschen, sollte deine Freigabe brauchen.

Own it

Leg die Stufe für jede Aufgabe bewusst fest und schreib sie auf. Setz die Berechtigungen passend dazu, und behalte einen Menschen in der Schleife, wo ein Fehler teuer wäre.

Verwandt