Das KI-Vokabular · 08 Regeln & Verantwortung
Was ist Menschliche Aufsicht?
Die rechtliche und praktische Pflicht, dass Menschen ein KI-System überwachen, verstehen und übersteuern können.
Menschliche Aufsicht bedeutet, dass kompetente Menschen beobachten können, was ein KI-System tut, seine Ergebnisse gut genug verstehen, um sie zu beurteilen, und eingreifen können: korrigieren, übersteuern oder stoppen. Für Hochrisiko-KI verlangt die KI-Verordnung, dass Systeme dafür ausgelegt sind und Betreiber geschulte Personen damit betrauen.
Aufsicht ist mehr als ein einzelner Freigabeschritt. Dazu gehört, die Grenzen eines Systems zu kennen, auf die Neigung zu achten, der Maschine zu sehr zu vertrauen, und die Befugnis und die Mittel zu haben, Nein zu sagen.
Warum es für dich wichtig ist
Aufsicht funktioniert nur, wenn Menschen Zeit, Schulung und die Erlaubnis haben, der KI zu widersprechen. Wer 300 Fälle pro Stunde freigibt, beaufsichtigt gar nichts.
Own it
Gib jedem KI-Workflow eine klare Verantwortliche: eine Person, die für die Ergebnisse geradesteht und den Prozess anhalten kann. Verantwortung lässt sich nicht an Software delegieren.
Woher es kommt
„Vorrang menschlichen Handelns und menschliche Aufsicht“ war die erste von sieben Anforderungen in den Ethik-Leitlinien für vertrauenswürdige KI der EU, die die Hochrangige Expertengruppe für KI im April 2019 veröffentlichte. Die KI-Verordnung machte daraus in Artikel 14 eine rechtliche Anforderung für Hochrisiko-KI, einschließlich der Vorgabe, dass Menschen ein System übersteuern oder stoppen können müssen.
Verwandt
Your AI Learning Hub
Lern das ganze KI-Vokabular, Schritt für Schritt, und bau damit. Build it. Own it.