Das KI-Vokabular · 05 Agenten
Was ist Human in the Loop?
Ein Mensch prüft oder genehmigt, was die KI tut, bevor es zählt.
Human in the Loop heißt: Ein Mensch sitzt an einer festgelegten Stelle in einem KI-Ablauf und prüft, korrigiert oder genehmigt die Arbeit, bevor sie Wirkung entfaltet. Also bevor eine E-Mail rausgeht, eine Zahlung ausgelöst, ein Text veröffentlicht oder eine Entscheidung über einen Menschen getroffen wird.
Das ist der praktischste Schutz gegen Halluzinationen, Missverständnisse und Agenten, die vom Kurs abkommen. Er funktioniert aber nur, wenn der Mensch wirklich prüft. Ein reflexhaftes „Genehmigen“ ist keine Aufsicht.
Warum es für dich wichtig ist
Leg vorher fest, wo die menschlichen Kontrollpunkte liegen, je nach Risiko. Interne Entwürfe brauchen vielleicht keinen. Alles, was nach außen geht, um Geld oder Recht geht oder Menschen betrifft, sollte einen haben.
Own it
Mit einem Human in the Loop bleiben Verantwortung und Urteilsvermögen bei dir. Genau das erwartet die EU auch bei risikoreicheren Anwendungen unter dem Stichwort menschliche Aufsicht.
Woher es kommt
Der Begriff stammt aus der Modellierung, Simulation und aus militärischen Systemen. Dort beschrieb er Aufbauten, bei denen ein Mensch am laufenden Prozess beteiligt ist, etwa in Flugsimulatoren oder bei der Waffensteuerung (Wikipedia). Das maschinelle Lernen übernahm ihn für Menschen, die die Arbeit eines Modells labeln, prüfen oder korrigieren, und durch Agenten wurde er zur alltäglichen Designfrage.
Verwandt
Your AI Learning Hub
Lern das ganze KI-Vokabular, Schritt für Schritt, und bau damit. Build it. Own it.