Das KI-Vokabular · 01 Das Modell
Was ist Reinforcement Learning?
Eine Trainingsart, bei der ein System durch Ausprobieren lernt, welche Handlungen auf Dauer die meiste Belohnung bringen.
Beim Reinforcement Learning, auf Deutsch bestärkendes Lernen, bekommt ein System keine richtigen Antworten gezeigt. Es handelt, erhält eine Belohnung oder Strafe und lernt nach und nach, welches Verhalten sich auf Dauer lohnt. Das Prinzip ist wie Lernen mit Belohnung, nur millionenfach wiederholt.
Bekannt wurde es durch Spiele und Robotik. Bei Sprachmodellen steckt es im Post-Training: Bei RLHF vergleichen Menschen Antworten, und ihre Vorlieben werden zur Belohnung. Auch Reasoning-Modelle werden so trainiert. OpenAI schrieb 2024, dass sein Modell o1 mit mehr Reinforcement Learning besser wird.
Warum es für dich wichtig ist
Ein System, das mit Belohnungen trainiert wird, optimiert genau das, was belohnt wird, nicht das, was gemeint war. Belohnen Menschen eher angenehme Antworten, kann ein Modell lernen, ihnen nach dem Mund zu reden. Das ist ein Grund für Sycophancy.
Own it
Dasselbe gilt, wenn du einem Agenten oder einer Automatisierung Ziele setzt: Leg genau fest, was Erfolg heißt, bevor ein System darauf losgeht, und prüf das Ergebnis mit Evals.
Woher es kommt
Das Feld baut auf Jahrzehnten Forschung in Psychologie, Regelungstechnik und Informatik auf. Sein Standardlehrbuch ist Reinforcement Learning: An Introduction von Richard Sutton und Andrew Barto, zweite Auflage 2018, kostenlos online lesbar. Menschliche Vorlieben als Belohnung führten Paul Christiano und Kollegen 2017 ein.
Verwandt
Your AI Learning Hub
Lern das ganze KI-Vokabular, Schritt für Schritt, und bau damit. Build it. Own it.