Das KI-Vokabular · 07 Wenn es schiefgeht

Was ist Alignment?

Das Bemühen, dass KI tut, was Menschen beabsichtigen und wichtig ist. Was das genau heißt, ist noch umstritten.

Fortgeschritten

Alignment heißt, das Verhalten eines KI-Systems mit menschlichen Absichten und Werten in Einklang zu bringen, auf Deutsch etwa Ausrichtung. Das Wort ist weit verbreitet, aber nicht in einem einzigen Sinn. Drei übliche Verwendungen:

• Absicht folgen: In OpenAIs InstructGPT-Paper von 2022 tut ein ausgerichtetes Modell, was seine Nutzerinnen meinen. Nicht ausgerichtete Antworten sind unwahr, giftig oder nicht hilfreich.
• Eine Reihe von Werten: In einem Anthropic-Paper von 2021 ist ein ausgerichteter Assistent hilfreich, ehrlich und harmlos.
• Ein Problem der Zukunft: Anthropic nutzt den Begriff auch für fortgeschrittene Systeme, die Ziele gegen menschliche Interessen verfolgen könnten, und sagt, niemand wisse bisher, wie man sehr mächtige KI verlässlich hilfreich, ehrlich und harmlos trainiert.

In der Praxis passiert Alignment heute vor allem im Post-Training: menschliches Feedback, Regeln und Tests, die das Verhalten eines Modells formen.

Alle drei Verwendungen stammen von Unternehmen, die Modelle bauen und verkaufen. Wie sie das Problem beschreiben, beschreibt auch ihre eigene Arbeit.

Warum es für dich wichtig ist

Wenn ein Anbieter sagt, sein Modell sei „aligned“, frag: ausgerichtet woran, und wie getestet? Ein Modell kann allgemein höflich und sicher sein und trotzdem an deinen Werten scheitern oder dir nach dem Mund reden (Sycophancy).

Own it

Schreib auf, was gutes Verhalten für deinen Einsatz heißt: Ton, Grenzen, was nie passieren darf. Mach daraus Anweisungen, Guardrails und Tests. Das ist Alignment, das du steuerst.

Verwandt