Das KI-Vokabular · 07 Wenn es schiefgeht

Was ist Memorisierung?

Wenn ein Modell Stücke seiner Trainingsdaten speichert und wortgleich wiedergeben kann, auch personenbezogene Daten.

Fortgeschritten

Modelle lernen vor allem Muster, sie speichern aber auch manche Passagen ihrer Trainingsdaten wortgleich. Das ist Memorisierung. Forschende zogen Hunderte wortgleiche Textstellen aus GPT-2, darunter Namen, Telefonnummern und E-Mail-Adressen, manche davon standen nur in einem einzigen Dokument. 2023 extrahierte ein Team Gigabytes an Trainingsdaten aus offenen und geschlossenen Modellen und stellte fest, dass Alignment-Training die Memorisierung nicht beseitigte.

Memorisierung hat rechtliche Folgen. Das Landgericht München urteilte im November 2025, dass in einem Modell gespeicherte Liedtexte urheberrechtlich eine Vervielfältigung sind (GEMA gegen OpenAI, nicht rechtskräftig). Nach der DSGVO gilt ein Modell laut europäischen Aufsichtsbehörden nur dann als anonym, wenn sich personenbezogene Daten nicht herausziehen lassen, geprüft im Einzelfall.

Warum es für dich wichtig ist

Alles, was ins Training geht, kann wieder herauskommen. Einmal eintrainiert, lassen sich Daten praktisch nicht mehr aus einem Modell entfernen.

Own it

Halte Geheimnisse, Passwörter und personenbezogene Daten aus allen Daten heraus, die fürs Training genutzt werden könnten, auch aus Chats in privaten Tarifen, die standardmäßig trainieren. Entferne Duplikate aus deinen eigenen Fine-Tuning-Daten, denn wiederholter Text wird leichter memorisiert.

Verwandt