Das KI-Vokabular · 08 Regeln & Verantwortung

Was ist Systemisches Risiko?

Nach der KI-Verordnung das Risiko, das die mächtigsten Modelle mit allgemeinem Verwendungszweck für die Gesellschaft als Ganzes darstellen. Es bringt ihren Anbietern zusätzliche Pflichten.

Profi

Die KI-Verordnung behandelt eine kleine Gruppe von Modellen mit allgemeinem Verwendungszweck anders: solche, deren Fähigkeiten mit hoher Wirkkraft erhebliche Auswirkungen auf den Unionsmarkt, auf öffentliche Gesundheit, Sicherheit, Grundrechte oder die Gesellschaft als Ganzes haben und sich in großem Umfang über die gesamte Wertschöpfungskette verbreiten können (Artikel 3).

Ein Modell wird so eingestuft, wenn es Fähigkeiten mit hoher Wirkkraft hat oder wenn die Europäische Kommission das beschließt. Hohe Wirkkraft wird vermutet, wenn die für das Training insgesamt verwendete Rechenleistung (Compute) mehr als 10^25 Gleitkommaoperationen beträgt (Artikel 51). Die Kommission kann diese Schwelle anpassen.

Anbieter solcher Modelle haben nach Artikel 55 zusätzliche Pflichten: das Modell nach dem Stand der Technik bewerten, einschließlich dokumentierter Angriffstests (Red Teaming), systemische Risiken bewerten und mindern, schwerwiegende Vorfälle unverzüglich melden und für angemessene Cybersicherheit sorgen. Ein freiwilliger Verhaltenskodex, veröffentlicht im Juli 2025, hat für diese Anbieter ein eigenes Kapitel zu Sicherheit.

Warum es für dich wichtig ist

Diese Pflichten treffen die Hersteller der größten Frontier-Modelle, nicht die Unternehmen, die sie nutzen. Für dich heißen sie vor allem: mehr Informationen und Tests von deinen Anbietern.

Own it

Wenn du auf einem Frontier-Modell aufbaust, frag deinen Anbieter, ob es als Modell mit systemischem Risiko eingestuft ist und ob er den Verhaltenskodex unterzeichnet hat. Leg die Antwort zu deinen Lieferantenunterlagen. Dieser Eintrag ist ein Überblick, keine Rechtsberatung.

Verwandt