BEGRIFF· 08.02.2026
Large Language Models
Large Language Models erklärt: wie sie Sprache berechnen, wo sie an Grenzen stoßen und warum kleinere Modelle aufholen.
Was ein Large Language Model ist
Der Name klingt nach einem fertigen Nachschlagewerk, das Fragen einfach beantwortet. Tatsächlich ist ein Large Language Model ein KI-System auf Basis der Transformer-Architektur von 2017, trainiert mit riesigen Textmengen, um sprachliche Muster statistisch vorherzusagen. Groß wegen der Milliarden Parameter, Sprachmodell, weil es ursprünglich nur Text verarbeitet hat. Aktuelle Modelle wie GPT-5, Claude oder Gemini lesen inzwischen auch Bilder und Audio im selben Rechenschritt.
Bevor gerechnet wird, zerlegt das Modell jede Eingabe in Tokens, meist Silben statt ganzer Wörter. Ein Attention-Mechanismus gewichtet dann, wie stark einzelne Wörter im aktuellen Kontext aufeinander Bezug nehmen, und daraus berechnet das Modell das nächste wahrscheinlichste Wort. Das passiert wieder und wieder, bis der Satz fertig ist.
Wichtiger als die reine Parameterzahl ist inzwischen, wie sauber die Trainingsdaten aufbereitet wurden und ob das Modell beim Antworten auf externe Quellen zugreifen darf.
Wo LLMs stark sind und wo nicht
In der Praxis laufen LLMs überall dort, wo Sprache verarbeitet wird. Content-Entwürfe, Zusammenfassungen langer Dokumente, sortierte Support-Anfragen, Boilerplate-Code: Für all das reicht die Mustererkennung aus, weil die Aufgabe selbst aus vorhersehbaren sprachlichen Bausteinen besteht.
Schlecht sind sie bei allem, was exaktes Rechnen oder tagesaktuelles Wissen verlangt. Ein Modell kann eine Rechnung plausibel aussehen lassen, ohne dass sie stimmt, und es kennt keine Ereignisse nach seinem Trainingsstichtag, solange es nicht per Websuche nachschaut. Wer diese Grenze kennt, baut Aufgaben so zu, dass das Modell die Sprache übernimmt und ein Werkzeug die Fakten liefert. Wie ein Modell dafür in eigenen Dokumenten nachschlägt, steht unter Retrieval Augmented Generation.
Aktuelle Modelle bauen zusätzlich eine Zwischenebene ein. Statt sofort zu antworten, erzeugen sie erst eine interne Kette von Zwischenschritten, ähnlich wie ein Mensch, der ein Problem zerlegt, bevor er es ausspricht. Dieses Reasoning senkt die Fehlerquote bei mehrstufigen Aufgaben spürbar.
Vom Antworten zum Handeln
Ein Modell, das nur Text ausgibt, ist inzwischen die kleinere Hälfte der Anwendung. Über das Model Context Protocol verbinden sich Modelle mit Werkzeugen wie Dateisystemen oder APIs und arbeiten damit als Planungsinstanz statt als Textgenerator. Diese Verschiebung macht aus einem Sprachmodell einen KI-Agenten.
Parallel holen kleinere Modelle auf. Small Language Models erreichen für viele Standardaufgaben eine Qualität, für die vor Kurzem deutlich größere Modelle nötig waren, und laufen dabei lokal auf gewöhnlicher Hardware. Das senkt Kosten und Energieverbrauch und hält Daten dort, wo sie entstehen.
Wo die Grenze liegt
Ein LLM ist keine Datenbank. Es sagt vorher, welches Wort statistisch folgt, und ob diese Vorhersage stimmt, weiß es nicht. Daraus entstehen Halluzinationen: Antworten, die überzeugend klingen und trotzdem falsch sind.
Dazu kommt der regulatorische Rahmen. Der EU AI Act trat am 1. August 2024 in Kraft und ist seit dem 2. August 2026 verbindlich anwendbar. Er verpflichtet Unternehmen, Haftung und Kontrolle für automatisierte Entscheidungen klar zu definieren. Wer LLMs für mehr als einfache Textaufgaben einsetzt, kommt an dieser Frage nicht vorbei.
Was ein Prompt technisch leisten kann, ist ein eigenes Thema, ebenso Machine Learning als das übergeordnete Feld, aus dem die Transformer-Architektur nur einen Ausschnitt bildet.
Zurück zum AI und Automation Glossar.
FAQ
- Ist ein Large Language Model dasselbe wie eine Suchmaschine?
- Nein. Eine Suchmaschine sucht nach vorhandenen Dokumenten und zeigt dir Links dazu. Ein LLM hat kein Dokument gespeichert, das es abruft, sondern berechnet aus seinem Training, welches Wort statistisch am wahrscheinlichsten als Nächstes folgt. Deshalb kann ein LLM überzeugend klingende Antworten geben, die trotzdem falsch sind, während eine Suchmaschine dir wenigstens die Quelle zeigt, auf der eine Aussage beruht.
- Was unterscheidet ein LLM von einem KI-Agenten?
- Ein LLM allein antwortet nur mit Text. Ein KI-Agent nutzt ein LLM zur Planung und verbindet es zusätzlich mit Werkzeugen wie APIs oder Dateisystemen, sodass es mehrere Schritte eigenständig ausführen kann, etwa eine Datei anlegen oder eine Anfrage verschicken. Bei Aktionen mit echten Folgen bleibt trotzdem eine menschliche Bestätigung sinnvoll, bevor der Agent etwas Endgültiges auslöst.
- Warum halluzinieren Large Language Models?
- Weil ein LLM keine gespeicherten Fakten abruft, sondern bei jedem Wort die wahrscheinlichste Fortsetzung berechnet. Lag im Training zu einem Thema wenig oder widersprüchliches Material vor, füllt das Modell die Lücke trotzdem, und zwar mit einer Antwort, die plausibel klingt, aber nicht stimmt. Retrieval-Augmented Generation senkt dieses Risiko, weil das Modell vor der Antwort auf echte Dokumente zugreift, beseitigt es aber nicht vollständig.
