Das KI-Vokabular · 01 Das Modell

Was ist Token?

Das kleine Textstück, das ein Modell liest und schreibt. Preis, Geschwindigkeit und Speichergrenzen werden alle in Tokens gezählt.

Einstieg

Ein Token ist die Einheit, mit der ein großes Sprachmodell tatsächlich arbeitet. Bevor dein Text beim Modell ankommt, wird er in Tokens zerlegt: Häufige Wörter sind oft ein einziges Token, seltene Wörter, Namen und Zahlen werden in mehrere Stücke geteilt. Das Modell sieht nie Buchstaben oder Wörter, nur Tokens, und es schreibt seine Antwort Token für Token.

Als Faustregel entspricht ein Token etwa drei Vierteln eines englischen Wortes, 1.000 Tokens sind also rund 750 Wörter. Andere Sprachen, auch Deutsch, brauchen für dieselbe Bedeutung meist mehr Tokens, ebenso ungewöhnlicher Text wie Code, IDs oder lange Zahlen.

Tokens sind die Einheit, in der alles andere gemessen wird. Das Kontextfenster ist eine Grenze in Tokens. Geschwindigkeit wird in Tokens pro Sekunde gemessen. Und wenn du ein Modell über eine API nutzt, zahlst du pro Token, meist mehr für die Tokens, die das Modell schreibt, als für die, die du hineinschickst.

Warum es für dich wichtig ist

Tokens machen aus „KI“ einen Budgetposten, über den du nachdenken kannst. Ein langes Dokument, das in jede Anfrage kopiert wird, ein gesprächiger Agent, der bei jedem Schritt seinen ganzen Verlauf neu liest, ein Team, das dasselbe 30-seitige Briefing hundertmal am Tag verschickt: All das sind Tokens, und Tokens sind Geld und Wartezeit. Überrascht dich eine KI-Rechnung, lautet die Frage nicht „Welches Modell?“, sondern „Wie viele Tokens schicken wir, und warum?“

Own it

Tokens zu verstehen ist der erste Schritt, deine Kosten in die eigene Hand zu nehmen. So kannst du Anbieter anhand echter Zahlen statt Marketing vergleichen, merkst, wenn ein Tool still und leise viel mehr verschickt als nötig, und entscheidest, wann ein kleineres oder lokales Modell gut genug ist. Was du zählen kannst, kannst du steuern.

Verwandt