Das KI-Vokabular · 06 Own Your AI
Was ist Fine-Tuning?
Ein bestehendes Modell mit deinen eigenen Beispielen weitertrainieren, um sein Verhalten zu ändern. Selten der erste Schritt.
Beim Fine-Tuning wird ein fertiges Modell mit einer kleineren Menge deiner eigenen Beispiele weiter trainiert, und seine Parameter werden angepasst. Das ist nützlich, um einen einheitlichen Stil, ein Format oder ein spezielles Verhalten beizubringen, etwa Dokumente genau so zu klassifizieren, wie dein Team es tut.
Für Wissen ist es nicht der beste Weg. Fakten ändern sich, und jedes Mal neu zu trainieren ist langsam und teuer. Für Wissen funktioniert RAG oder einfach guter Kontext meist besser und bleibt aktuell.
Fine-Tuning braucht gute Beispieldaten, eine Möglichkeit, Ergebnisse mit Evals zu messen, und einen Plan, wie das angepasste Modell gepflegt wird.
Warum es für dich wichtig ist
Wenn jemand Fine-Tuning als ersten Schritt vorschlägt, frag, was bessere Prompts und besserer Kontext schon erreichen. Fine-Tuning lohnt sich, wenn du an deren Grenzen gestoßen bist und Hunderte gute Beispiele hast.
Own it
Fine-Tuning eines Open-Weight-Modells ergibt ein Modell, das wirklich dir gehört: dein Verhalten, auf deiner Infrastruktur. Das kann ein echtes Asset sein, wenn du es pflegen kannst.
Woher es kommt
Fine-Tuning ist aus dem Transfer Learning entstanden, der Idee, das Gelernte eines Modells für eine neue Aufgabe wiederzuverwenden. Bei Sprache hob es 2018 ab, als Jeremy Howard von fast.ai und Sebastian Ruder mit ULMFiT zeigten, dass sich ein vortrainiertes Sprachmodell mit wenig Daten für neue Textaufgaben feintunen lässt. Vortrainierte Large Language Models machten das schnell zum Standardweg, KI anzupassen.
Verwandt
Your AI Learning Hub
Lern das ganze KI-Vokabular, Schritt für Schritt, und bau damit. Build it. Own it.