Das KI-Vokabular · 07 Wenn es schiefgeht
Was ist Bias?
Systematische Unfairness in KI-Ergebnissen, geerbt aus Daten oder Designentscheidungen.
Bias in KI bedeutet, dass Ergebnisse systematisch verzerrt sind: Bestimmte Gruppen werden mit Stereotypen beschrieben, schlechter erkannt oder schlechter behandelt. Meist stammt das aus Trainingsdaten, die bestehende Ungleichheiten widerspiegeln, und aus menschlichen Entscheidungen darüber, was gemessen, wie gelabelt und wo das System eingesetzt wird.
Bekannte Beispiele sind Gesichtserkennung, die bei dunkler Haut schlechter funktioniert, und Recruiting-Tools, die männliche Bewerber bevorzugten. Bei generativer KI zeigt sich Bias in Bildern, Formulierungen und Annahmen, etwa wenn „der CEO“ standardmäßig als Mann dargestellt wird.
Warum es für dich wichtig ist
Wenn KI Entscheidungen über Menschen berührt, etwa bei Einstellungen, Krediten, Preisen, Support-Prioritäten oder Leistungsbewertungen, kann Bias zu unfairer Behandlung und rechtlichem Risiko werden. Viele dieser Einsätze gelten in der EU als Hochrisiko-KI.
Own it
Teste die Ergebnisse für verschiedene Gruppen, bevor du dich darauf verlässt, lass bei Entscheidungen über Menschen immer eine Person verantwortlich sein und dokumentiere, was du geprüft hast. Bias lässt sich nie ganz beseitigen, aber du kannst ihn erkennen und begrenzen.
Woher es kommt
Die Sorge um unfaire Software ist älter als moderne KI. 1996 veröffentlichten Batya Friedman und Helen Nissenbaum Bias in Computer Systems und beschrieben, wie Bias über bestehende gesellschaftliche Einstellungen, technische Grenzen und neue Einsatzkontexte in Systeme gelangt. Ein breites Publikum erreichte das Thema 2018 mit der Studie „Gender Shades“ von Joy Buolamwini und Timnit Gebru, die zeigte, dass kommerzielle Gesichtsanalyse bei Frauen mit dunkler Haut deutlich schlechter abschnitt.
Verwandt
Your AI Learning Hub
Lern das ganze KI-Vokabular, Schritt für Schritt, und bau damit. Build it. Own it.