Few Shot Prompting
Zwei bis fünf Beispiele zeigen dem Modell das Muster. Ab wann mehr Beispiele nichts mehr bringen und nur noch Kontextfenster kosten.
Was Few Shot Prompting ist
Beim Few Shot Prompting gibst du dem Sprachmodell im Prompt mehrere Beispiele mit, die zeigen, wie das Ergebnis aussehen soll. Diese Beispiele heißen "Shots". Zwei bis fünf reichen für die meisten Aufgaben.
Ein Shot besteht aus zwei Teilen: dem Input, wie ihn ein echter Nutzer schreiben würde, und dem Output, den du willst. Reihst du mehrere davon aneinander, entsteht eine kleine Vorlage, an der sich das Modell orientiert, wenn es die letzte offene Zeile ergänzt.
Trainiert wird dabei nichts. Die Gewichte des Modells bleiben unverändert, es justiert nur seine Aufmerksamkeit im aktuellen Kontext. Der Fachbegriff dafür ist In-Context Learning. Sobald das Gespräch endet, ist das Muster wieder weg, und genau deshalb zählt jedes Beispiel bei jedem Aufruf neu gegen dein Kontextfenster.
Wie viele Beispiele helfen
Der größte Sprung passiert zwischen null und einem Beispiel. Ohne Vorgabe rät das Modell nach Durchschnitt, ein einziges Beispiel legt das Format fest. Von einem auf drei merkst du meist noch einen deutlichen Gewinn, besonders bei mehr als zwei Kategorien. Ab fünf flacht die Kurve ab.
Am besten gehst du stufenweise vor. Erst Zero-Shot testen, um die Baseline zu sehen. Reicht das nicht, ein Beispiel ergänzen, das vor allem das Format klärt. Bleiben inhaltliche Nuancen offen, dann auf drei bis fünf hochgehen.
Der Haken: Jedes Beispiel verbraucht Tokens. Bei einer einzelnen Anfrage ist das egal, bei tausendfachem Einsatz zahlst du für jedes überflüssige Beispiel mit. Ein praktischer Test: Streich ein Beispiel und prüf, ob das Ergebnis schlechter wird. Bleibt die Qualität gleich, war es Ballast. Brauchst du ständig wechselndes Referenzmaterial, ist Retrieval Augmented Generation der bessere Weg.
Ein Beispiel
Bei einer Sentiment-Analyse mit drei Kategorien zeigen die Beispiele, wo die Grenze zwischen den Klassen verläuft:
Aufgabe: Klassifiziere die Kundenbewertungen in Positiv, Negativ oder Neutral.
Review: "Der Versand war schnell, aber das Produkt ist beschädigt."
Sentiment: Negativ
Review: "Ganz okay für den Preis, erfüllt seinen Zweck."
Sentiment: Neutral
Review: "Besser als erwartet! Werde ich wieder kaufen."
Sentiment: Positiv
Review: "Der Support hat mir sofort geholfen, danke."
Sentiment:
Drei Beispiele reichen hier, weil die Aufgabe klar begrenzt ist. Ein viertes würde das Muster kaum schärfer machen.
Was gute Beispiele ausmacht
Die Beispiele sollten die ganze Aufgabe abdecken. Sind alle kurz und positiv formuliert, fällt auch der Output kurz und positiv aus. Genau das ist der häufigste Fehler, Label Bias: Zeigst du vier positive und ein negatives Beispiel, bewertet das Modell auch neutrale Fälle als positiv.
Dazu kommt Recency Bias. Sprachmodelle gewichten das Ende des Prompts stärker, also stell das wichtigste Beispiel zuletzt, direkt vor die eigentliche Aufgabe.
Auch die Formatierung zählt. Klare Trenner wie ### zeigen dem Modell, wo ein Beispiel endet. Bei Aufgaben mit mehreren Rechenschritten lohnt sich Chain-of-Thought, das Beispiel zeigt dann den ganzen Lösungsweg statt nur die nackte Antwort.
Fine-Tuning ist die Alternative, wenn Beispiele nicht mehr reichen. Es verändert die Gewichte dauerhaft, braucht dafür aber tausende Trainingsdaten und Rechenleistung. Für fast alles im Alltag reicht Few Shot. Mehr Grundlagen dazu stehen im Prompting-Guide und unter Prompt Engineering.
Zurück zum AI und Automation Glossar.
FAQ
- Wie viele Beispiele braucht Few Shot Prompting?
- Für die meisten Aufgaben reichen zwei bis fünf. Bei einer einfachen Formatvorgabe, etwa einer festen JSON-Struktur, reicht oft schon ein einziges Beispiel. Erst wenn das Modell zwischen mehreren Kategorien unterscheiden soll oder das Format komplex ist, lohnen sich fünf und mehr. Ab einer zweistelligen Zahl bringt fast jedes zusätzliche Beispiel kaum noch etwas, es kostet nur Platz im Context Window.
- Was ist der Unterschied zwischen Few Shot Prompting und Fine-Tuning?
- Few Shot Prompting ändert nichts am Modell selbst. Die Beispiele stehen nur für die Dauer der Anfrage im Prompt und sind danach wieder weg. Fine-Tuning passt die Gewichte des Modells dauerhaft an und braucht dafür tausende Trainingsbeispiele und Rechenleistung. Für die meisten Aufgaben reicht Few Shot, Fine-Tuning lohnt sich erst bei sehr spezifischem Fachwissen oder wenn du denselben Stil millionenfach brauchst.
- Warum liefert das Modell trotz Beispielen falsche Ergebnisse?
- Meist liegt es an unausgewogenen Beispielen: Wenn vier von fünf Beispielen positiv sind, kippt das Modell auch bei neutralem Input Richtung positiv, ein Effekt namens Label Bias. Ein zweiter Grund ist Recency Bias, das Modell gewichtet das letzte Beispiel im Prompt stärker als die vorherigen. Beides lässt sich beheben, indem du die Kategorien gleich oft vertrittst und das wichtigste Beispiel ans Ende stellst.
