Das KI-Vokabular · 08 Regeln & Verantwortung
Was ist Erklärbarkeit?
Verstehen und erklären können, warum ein KI-System ein bestimmtes Ergebnis oder eine bestimmte Entscheidung geliefert hat.
Bei Erklärbarkeit geht es um das „Warum“ hinter einem KI-Ergebnis. Bei einfachen Systemen, etwa einer Regel oder einem Scoring-Modell, lässt sich oft genau nachvollziehen, welche Faktoren zu einem Ergebnis geführt haben. Bei großen Sprachmodellen ist das viel schwerer: Ihr Verhalten entsteht aus Milliarden von Parametern, und die Gründe, die ein Modell für seine Antwort nennt, sind selbst generierter Text, kein verlässlicher Blick ins Innere.
In der Praxis bedeutet Erklärbarkeit im Business oft etwas Bescheideneres: die Quellen zeigen, auf denen eine Antwort beruht, die genutzten Eingaben und Regeln offenlegen und genug Informationen liefern, damit ein Mensch das Ergebnis prüfen kann und eine betroffene Person eine Entscheidung über sich versteht.
Warum es für dich wichtig ist
Wenn KI Entscheidungen über Menschen beeinflusst, etwa bei Einstellungen, Krediten oder Preisen, ist „Das System hat es so gesagt“ keine akzeptable Erklärung, weder rechtlich noch ethisch. Für Hochrisiko-KI gelten hier ausdrückliche Anforderungen.
Own it
Plane auf Überprüfbarkeit hin: Lass dir Quellen nennen, protokolliere Ein- und Ausgaben, setz bei Entscheidungen über Menschen auf einfache, nachvollziehbare Methoden und sorg durch menschliche Aufsicht dafür, dass eine Person das Ergebnis erklären und übersteuern kann.
Woher es kommt
Der Wunsch nach verständlichen Systemen ist alt: Schon Expertensysteme in den 1980er-Jahren erklärten ihre Regeln. Das moderne Feld der „Explainable AI“ (XAI) bekam 2016 einen großen Schub, als die US-Forschungsagentur DARPA ihr XAI-Programm unter der Leitung von David Gunning startete (AI Magazine). In Europa gab die Debatte um ein „Recht auf Erklärung“ unter der DSGVO dem Thema rechtliches Gewicht.
Verwandt
Your AI Learning Hub
Lern das ganze KI-Vokabular, Schritt für Schritt, und bau damit. Build it. Own it.