Das KI-Vokabular · 08 Regeln & Verantwortung

Was ist Model Card?

Ein kurzes Dokument zu einem KI-Modell, das sagt, wofür es gedacht ist, wie es getestet wurde und wo es Schwächen hat.

Fortgeschritten

Eine Model Card, auf Deutsch Modellkarte, ist wie ein Beipackzettel für ein KI-Modell. Sie beschreibt, wofür das Modell gedacht ist, wie es bewertet wurde, wie gut es für verschiedene Gruppen und Bedingungen funktioniert und wofür es nicht genutzt werden sollte. Viele Modellhersteller veröffentlichen zu jeder Version eine. Manche veröffentlichen längere „System Cards“ für ganze Produkte, deren Inhalt nicht genormt ist.

Die Idee stammt aus einem Paper von 2018 von Margaret Mitchell, Timnit Gebru und Kolleginnen bei Google. Sie schlugen vor, die Leistung nach demografischen, kulturellen und anderen Gruppen aufzuschlüsseln, damit Schwächen für manche Menschen nicht hinter einem Durchschnitt verborgen bleiben.

Die KI-Verordnung geht bei Modellen mit allgemeinem Verwendungszweck weiter. Ihre Anbieter müssen eine technische Dokumentation führen, einschließlich Trainings- und Testverfahren und Bewertungsergebnissen, mit mindestens den Angaben aus Anhang XI: vorgesehene Aufgaben, Architektur und Zahl der Parameter, Lizenz, Trainingsdaten und ihre Herkunft, Rechenressourcen und Energieverbrauch (Artikel 53). Diese Dokumentation geht auf Anfrage an Behörden, nicht automatisch an die Öffentlichkeit. Eine Model Card ist ein freiwilliges Format, die Verordnung verwendet den Begriff nicht.

Warum es für dich wichtig ist

Die Model Card ist der schnellste Weg zu sehen, wofür ein Modell gebaut und getestet wurde und wo seine Hersteller selbst Grenzen und Bias sehen.

Own it

Lies die Model Card, bevor du auf einem Modell aufbaust, und leg eine Kopie zu deinen Unterlagen. Wenn du selbst Modelle baust oder anpasst, schreib für jedes eine kurze Karte: Zweck, Daten, Tests, Grenzen.

Verwandt