Das KI-Vokabular · 05 Agenten
Was ist Berechtigungen?
Die Regeln, die festlegen, was ein KI-Agent selbst darf, wofür er fragen muss und was er nie tun darf.
Berechtigungen bestimmen die Reichweite eines KI-Agenten. Welche Dateien darf er lesen? Welche Tools darf er ohne Nachfrage nutzen? Darf er E-Mails senden, Geld ausgeben, Daten löschen? Die meisten KI-Tools lassen dich wählen: vor jeder Aktion fragen, sichere Aktionen automatisch erlauben oder komplett selbstständig laufen lassen, was oft nur in einer abgeschotteten Umgebung empfohlen wird.
Jede Berechtigung ist eine Abwägung zwischen Tempo und Kontrolle. Zu streng, und du genehmigst jeden kleinen Schritt, bis du die Anfragen gar nicht mehr liest. Zu locker, und der Agent kann Schaden anrichten, bevor es jemand merkt.
Warum es für dich wichtig ist
Wenn bei einem Agenten etwas schiefgeht, lautet die erste Frage meist: Warum durfte er das überhaupt? Berechtigungen bewusst festzulegen, ist die einfachste Form von Risikomanagement für KI.
Own it
Starte mit reinen Leserechten und erweitere sie Schritt für Schritt, wenn Vertrauen gewachsen ist. Gib einem Agenten nie mehr Zugriff, als die Person hätte, die ihn beaufsichtigt. Prüf Berechtigungen so, wie du die Zugänge von Mitarbeitenden prüfst, und behalte bei allem Unumkehrbaren menschliche Aufsicht.
Woher es kommt
Berechtigungen gehören zu den ältesten Sicherheitsideen der Informatik. 1975 beschrieben Jerome Saltzer und Michael Schroeder das „Prinzip der geringsten Rechte“: Jedes Programm und jeder Nutzer sollte nur den Zugriff haben, den die Aufgabe erfordert (Wikipedia). Fünfzig Jahre später ist das genau die richtige Regel für KI-Agenten.
Verwandt
Your AI Learning Hub
Lern das ganze KI-Vokabular, Schritt für Schritt, und bau damit. Build it. Own it.