Das KI-Vokabular · 01 Das Modell
Was ist Training?
Der einmalige, sehr teure Prozess, der die Parameter eines Modells festlegt, indem er ihm riesige Datenmengen zeigt.
Training ist der Weg, auf dem ein Modell entsteht. Es bekommt enorme Textmengen zu sehen, sagt voraus, was als Nächstes kommt, und nach jedem Versuch werden seine Parameter ein winziges Stück angepasst. Nach Billionen Wiederholungen sagt es gut vorher. Eine spätere Phase bringt ihm bei, Anweisungen zu folgen und sich hilfreich zu verhalten.
Training passiert einmal, vor der Veröffentlichung, und wird vom Modellhersteller durchgeführt. Es kostet viel Geld, Daten und Energie. Das fertige Modell zu nutzen ist ein anderer Schritt: Inferenz.
Was in den Trainingsdaten steckt, prägt das Modell, auch Lücken und Bias. Und das Training endet an einem Datum, das zum Knowledge Cutoff des Modells wird.
Warum es für dich wichtig ist
Du trainierst so gut wie nie selbst ein Modell. Wenn jemand sagt „Wir trainieren die KI mit unseren Daten“, ist meist gemeint, ihr eure Dokumente als Kontext zu geben. Das ist schneller und günstiger. Echtes Nachtrainieren heißt Fine-Tuning, und das ist selten der erste Schritt.
Own it
Frag Anbieter, ob deine Eingaben zum Training ihrer Modelle genutzt werden und wie du widersprechen kannst. Deine Daten sollen deine Ergebnisse verbessern, nicht das Produkt von jemand anderem, es sei denn, du entscheidest dich bewusst dafür.
Woher es kommt
Maschinen, die aus Beispielen lernen, gibt es seit den 1950er-Jahren, doch das Training mehrschichtiger Netze wurde 1986 populär, als David Rumelhart, Geoffrey Hinton und Ronald Williams in Nature Learning representations by back-propagating errors veröffentlichten. Backpropagation, also jedes Gewicht ein Stück in die Richtung zu schieben, die den Fehler verringert, treibt das Training von Modellen bis heute an. Hinton erhielt 2024 gemeinsam mit John Hopfield den Nobelpreis für Physik für grundlegende Arbeiten zu neuronalen Netzen. Backpropagation
Verwandt
Your AI Learning Hub
Lern das ganze KI-Vokabular, Schritt für Schritt, und bau damit. Build it. Own it.