Token (LLMs)
Sprachmodelle lesen keine Wörter, sie rechnen mit Tokens. Was ein Token ist, warum deutsche Texte teurer sind und wie das Context Window daran hängt.
Was ein Token ist
Maschinen lesen keine Wörter. Ein Large Language Model wie GPT-5 oder Claude zerlegt jede Eingabe zuerst in Tokens, und ein Token deckt sich nur selten mit einem Wort. Häufig ist es eine Silbe, ein Wortfragment oder ein einzelnes Satzzeichen. Jedes Fragment bekommt eine Zahl aus dem festen Vokabular des Modells, und erst diese Zahlen lassen sich rechnen.
Für die Kalkulation reicht eine grobe Faustformel:
- Englisch: 1.000 Token entsprechen etwa 750 Wörtern.
- Deutsch: eher 600 bis 700 Wörter, weil Komposita in mehrere Tokens zerfallen.
Ein Wort wie "Donaudampfschifffahrtskapitän" wird in viele Fragmente zerlegt, während englische Wörter oft als ein einziges Token durchgehen. Deutsche Eingaben belegen dadurch mehr Context Window und kosten bei gleichem Inhalt mehr. Wer es genau wissen will, schaut sich seinen eigenen Text im Tokenizer von OpenAI an und sieht dort, an welchen Stellen ein Wort auseinanderfällt.
Context Window und Abrechnung
Jedes Modell hat ein begrenztes Context Window, also eine maximale Menge an Tokens, die es gleichzeitig verarbeiten kann. Input und Output zählen beide hinein. Ist der Puffer voll, verliert das Modell den Anfang des Gesprächs, und frühere Absprachen gelten plötzlich nicht mehr.
Die Größenordnung hat sich in wenigen Jahren mehrfach verschoben. Frühe Modelle lagen bei 4.000 Token, also ungefähr 3.000 Wörtern. Eine Generation später waren es 128.000. Aktuelle Modelle liegen zwischen 200.000 Token und einer Million, was ganzen Büchern entspricht. Anthropics kleinstes aktuelles Modell, Claude Haiku 4.5, liegt bei 200.000 Token, die größeren Modelle derselben Generation bei einer Million (Übersicht bei Anthropic).
OpenAI und Anthropic rechnen pro einer Million Token ab (MTok) und unterscheiden dabei zwischen Eingabe und Ausgabe. Generierte Tokens sind in der Regel teurer als gelesene.
Warum das im Alltag auffällt
Bei einem einzelnen Prompt merkt man davon nichts. Auffällig wird es erst bei Menge. Ein System-Prompt, der bei jeder Anfrage ein paar überflüssige Sätze mitschleppt, ist bei zehn Aufrufen egal und bei zehntausend ein Budgetposten.
Genau hier setzt Context Engineering an, also die Entscheidung, welche Informationen im Fenster bleiben und welche du besser draußen lässt. Für den Alltag reicht ein einfacher Test: Kürze deinen System-Prompt probeweise um ein Drittel und vergleiche die Antworten. Bleibt die Qualität gleich, hast du Tokens gefunden, die bisher bei jeder Anfrage mitbezahlt wurden. Wie du eine Eingabe von vornherein knapper baust, steht unter Prompt Engineering.
Zurück zum AI und Automation Glossar.
FAQ
- Wie viele Wörter sind 1.000 Token?
- Im Englischen etwa 750 Wörter. Im Deutschen liegt die Zahl niedriger, ungefähr bei 600 bis 700, weil zusammengesetzte Wörter in mehrere Tokens zerfallen. Für eine Kostenschätzung reicht diese Faustformel, für eine genaue Zahl nimmst du den Tokenizer des jeweiligen Anbieters.
- Warum kosten deutsche Prompts mehr als englische?
- Weil dieselbe Aussage auf Deutsch in mehr Tokens zerfällt. Komposita wie "Donaudampfschifffahrtskapitän" werden in viele Fragmente zerlegt, während englische Wörter oft als ein Token durchgehen. Mehr Tokens heißt mehr belegtes Context Window und eine höhere Rechnung bei gleichem Inhalt.
- Was passiert, wenn das Context Window voll ist?
- Das Modell verliert den Anfang. Input und Output zusammen müssen ins Fenster passen, und was darüber hinausgeht, steht dem Modell nicht mehr zur Verfügung. In einem langen Chat merkst du das daran, dass frühere Absprachen plötzlich ignoriert werden.
