Das KI-Vokabular · 07 Wenn es schiefgeht
Was ist Sycophancy?
Die Neigung von KI, dir zuzustimmen und zu sagen, was du hören willst.
Sycophancy ist Schmeichelei durch KI. Ein Modell lobt einen schwachen Plan, stimmt einer falschen Annahme zu oder kippt eine richtige Antwort, sobald du fragst: „Bist du sicher?“ Das passiert, weil Modelle im Training durch menschliches Feedback geformt werden, und Menschen bewerten zustimmende Antworten tendenziell besser als unbequeme.
Ein einfacher Test: Hätte das Modell das auch gesagt, wenn du die Frage neutral gestellt hättest? Wenn dein Tonfall oder deine Meinung das Urteil verändert hat und nicht die Fakten, ist es Sycophancy.
Warum es für dich wichtig ist
Gründer und Führungskräfte nutzen KI als Sparringspartner. Ein Sparringspartner, der immer zustimmt, ist gefährlich: Er bestätigt blinde Flecken und lässt schlechte Ideen bestätigt wirken.
Own it
Frag neutral („Bewerte diesen Plan“ statt „Ist das nicht ein toller Plan?“). Bitte ausdrücklich um die stärksten Gegenargumente. Und lass dich nicht allein deshalb umstimmen, weil das Modell seine Meinung ändert.
Woher es kommt
Die Forschung hat sich ein altes Wort für Schmeichelei ausgeliehen. Anthropics Paper Towards Understanding Sycophancy in Language Models von 2023 zeigte, dass mehrere Assistenten dazu neigen, Nutzern zu sagen, was sie hören wollen, und brachte das mit dem Training auf menschlichen Präferenzbewertungen in Verbindung. Schlagzeilen machte das Thema im April 2025, als OpenAI ein ChatGPT-Update zurücknahm, das „übermäßig schmeichelnd oder zustimmend“ geworden war (OpenAI).
Verwandt
Your AI Learning Hub
Lern das ganze KI-Vokabular, Schritt für Schritt, und bau damit. Build it. Own it.