Das KI-Vokabular · 07 Wenn es schiefgeht
Was ist Nicht-Determinismus?
Dieselbe Frage kann jedes Mal eine andere Antwort bekommen.
Stell einem Modell zweimal dieselbe Frage, und du bekommst vielleicht zwei verschiedene Antworten, mal mit einem anderen Wort, mal mit einem anderen Ergebnis. Das liegt daran, dass ein Modell jeden Token aus einer Auswahl wahrscheinlicher Optionen wählt, meist mit etwas bewusstem Zufall, damit der Text nicht eintönig wird. Kleine Unterschiede am Anfang einer Antwort wachsen später zu größeren an.
Das ist kein Fehler, den man einfach abschalten kann. Es gehört dazu, wie LLMs Text erzeugen.
Warum es für dich wichtig ist
Ein gutes Ergebnis in einer Demo beweist wenig. Ein schlechtes Ergebnis auch. Bei allem, worauf du dich verlässt, teste mehrere Durchläufe und bewerte die Bandbreite statt einer einzelnen Antwort. Es noch einmal zu versuchen ist eine legitime Strategie.
Own it
Wenn Konsistenz wichtig ist, etwa bei Klassifizierung, Datenextraktion oder Compliance-Prüfungen, nutze feste Anweisungen, klare Ausgabeformate und Evals mit vielen Beispielen. So misst du Zuverlässigkeit, statt auf sie zu hoffen.
Woher es kommt
Nicht-Determinismus ist ein klassischer Begriff der Informatik: Dieselbe Eingabe führt nicht immer zur selben Ausgabe. Bei LLMs schob man das lange einfach auf das Sampling und auf Gleitkomma-Rechnung. Im September 2025 veröffentlichte Horace He vom Thinking Machines Lab Defeating Nondeterminism in LLM Inference und zeigte, dass eine große verborgene Ursache darin liegt, wie Server Anfragen bündeln, und wie man Ergebnisse reproduzierbar macht.
Verwandt
Your AI Learning Hub
Lern das ganze KI-Vokabular, Schritt für Schritt, und bau damit. Build it. Own it.