Das KI-Vokabular · 07 Wenn es schiefgeht

Was ist Model Collapse?

Was passiert, wenn Modelle immer wieder mit KI-erzeugten Daten trainiert werden: Die seltenen Fälle verschwinden, und der Schaden bleibt.

Profi

Immer mehr Texte, Bilder und Code im Netz stammen von KI. Wird die nächste Modellgeneration auf diesen Ausgaben trainiert und die übernächste auf deren Ausgaben, geht etwas verloren. Ilia Shumailov und Kollegen zeigten 2023: Zuerst verschwinden die seltenen Fälle am Rand der ursprünglichen Daten, die „Ränder“ der Verteilung, und diese Schäden lassen sich nicht rückgängig machen.

Sie beobachteten das bei mehreren Modellarten, auch bei Sprachmodellen, und nannten es Model Collapse, auf Deutsch etwa Modellkollaps. Ihr Schluss: Daten aus echter menschlicher Interaktion werden wertvoller, je mehr KI-Inhalte sich verbreiten.

Der Befund betrifft wiederholtes Training auf erzeugten Ausgaben. Er heißt nicht, dass jede Nutzung synthetischer Daten schadet: Eine kuratierte Mischung mit echten Daten ist eine andere Lage.

Warum es für dich wichtig ist

Die seltenen Fälle sind oft die wichtigsten: ungewöhnliche Kundinnen, kleine Sprachen, Sonderfälle in deinem Ablauf. Ein Modell, das sie verloren hat, antwortet selbstsicher und allgemein, und niemand merkt es.

Own it

Deine echten, von Menschen gemachten Daten werden knapper und wertvoller. Bewahr sie auf, dokumentiere ihre Herkunft und halte sie getrennt von KI-erzeugtem Material. Teste deine Systeme mit Evals an echten seltenen Fällen.

Verwandt