BEGRIFF· 16.01.2026
Trainingsdaten (KI)
KI ist Mathematik, keine Magie, und diese Mathematik ist hungrig. Was Trainingsdaten sind, warum ihre Qualität über Erfolg oder Scheitern entscheidet.
Was Trainingsdaten sind
Trainingsdaten sind das Lehrmaterial, aus dem ein Algorithmus Muster zieht. Im klassischen Machine Learning waren das strukturierte Tabellen. Bei Large Language Models geht es um gigantische Textkorpora, oft große Teile des offenen Internets, zerlegt in statistische Einheiten.
Technisch trennt man zwei Dinge. Auf der einen Seite die Input-Daten, also die Features, die das Modell analysiert. Auf der anderen die erwarteten Output-Daten, die Labels, die dem System im überwachten Lernen sagen, ob es richtig lag.
Und weil viele sich das Training als vollautomatischen Prozess vorstellen: Data Labeling ist Handarbeit. Menschen ziehen Boxen um Autos auf Bildern oder markieren Sarkasmus in Texten. Damit ein Modell versteht, was eine Katze ist, muss ihm das vorher tausendfach jemand gezeigt haben.
Warum die Qualität alles entscheidet
Garbage in, garbage out gilt bei neuronalen Netzen härter als anderswo. Ein Modell lernt einen Fehler in den Daten nicht nur, es generalisiert ihn auf jeden ähnlichen Fall. Fütterst du ein Modell mit falschen Informationen, gibt es sie mit demselben Selbstbewusstsein wieder wie korrekte Fakten. Daraus entstehen Halluzinationen.
Der gefährlichere Teil ist Bias. Enthält ein Datensatz für Bewerbungsverfahren vorwiegend Lebensläufe weißer Männer aus 20 Jahren, schließt die KI statistisch, dass genau dieses Profil erfolgreicher ist. Der Algorithmus urteilt nicht aus eigenem Antrieb, er spiegelt nur, wie schlecht die Auswahl war.
Auch inkonsistente Labels sind Gift, weil das Modell widersprüchliche Signale bekommt. Bei kritischen Projekten hilft Consensus Labeling: Drei Personen labeln denselben Datensatz unabhängig, und nur bei Übereinstimmung gilt er als validiert. Das kostet Zeit vorab und spart Monate Debugging danach.
Die drei Töpfe
Hier scheitern die meisten Hobbyprojekte. Man darf ein Modell nie mit den Daten testen, mit denen man es trainiert hat. Das wäre, als gäbe man einem Schüler zum Lernen schon die Klausurlösungen. In der Fachsprache heißt das Overfitting. Deshalb teilt man rigoros auf:
- Trainingsdaten (rund 70 Prozent): Daran passt das Netz seine Gewichte an.
- Validierungsdaten (rund 15 Prozent): Sie laufen mit, um Architektur und Hyperparameter zu justieren.
- Testdaten (rund 15 Prozent): Sie bleiben bis zum Schluss unberührt und messen einmalig die echte Leistung.
Die Beschaffung ist meist der teuerste Posten. Offene Quellen wie Hugging Face, Web Scraping oder eigene Unternehmensdaten kommen infrage, und Letzteres ist für viele Firmen der einzige echte Wettbewerbsvorteil. Die Bereinigung frisst danach nach einer vielzitierten Erhebung rund 80 Prozent der Projektzeit.
Synthetische Daten und ihr Risiko
Das offene Internet ist inzwischen fast leer gelesen, hochwertige menschliche Textdaten werden knapp. Die Industrie setzt deshalb auf synthetische Daten, also Material, das eine KI für eine andere KI erzeugt.
Das Risiko heißt Model Collapse. Eine 2024 in Nature veröffentlichte Untersuchung zeigt, dass Modelle messbar degenerieren, wenn sie über mehrere Generationen vor allem aus Modell-Output lernen. Das Ergebnis ähnelt einer Fotokopie einer Fotokopie.
Bevor Unternehmen große Budgets in eigenes Training stecken, lohnt sich deshalb der Blick auf Retrieval Augmented Generation. Oft reicht es, einem starken Foundation Model einen kleinen, hochwertigen Datensatz der eigenen Domäne zu zeigen.
Datenschutz und Urheberrecht
Training mit personenbezogenen Daten ist unter der DSGVO ein Minenfeld. Das Recht auf Vergessenwerden ist technisch kaum umzusetzen, weil sich ein einzelnes Datum aus einem fertig trainierten Netz nicht einfach löschen lässt.
Beim Urheberrecht laufen USA und EU auseinander. Große amerikanische Anbieter berufen sich auf die Fair-Use-Doktrin. In der EU gilt eine eigene Text-and-Data-Mining-Ausnahme, die das Training erlaubt, solange Rechteinhaber nicht widersprochen haben. Die Auslegung ist juristisch nicht gefestigt, und wer heute auf unklarer Datenbasis baut, riskiert, dass er morgen löschen muss.
Die Branche bewegt sich ohnehin weg von "mehr Daten sind besser" hin zu "bessere Daten sind besser". Wie man fertige Modelle danach steuert, steht unter Prompt Engineering, und wie weit Skalierung überhaupt trägt, in der Debatte um Artificial General Intelligence.
Zurück zum AI und Automation Glossar.
FAQ
- Warum halluzinieren KI-Modelle trotz riesiger Trainingsdatenmengen?
- Weil Menge Qualität nicht ersetzt. Ein Modell lernt aus jedem Fehler in den Trainingsdaten genauso zuverlässig wie aus jeder korrekten Information, und es generalisiert diesen Fehler in seine Antworten. Wenn eine falsche Behauptung oft genug im Trainingsmaterial vorkommt, gibt das Modell sie mit demselben Selbstbewusstsein wieder wie eine korrekte.
- Was ist der Unterschied zwischen Trainings-, Validierungs- und Testdaten?
- Trainingsdaten sind das Material, an dem das Modell seine Gewichte anpasst. Validierungsdaten laufen während des Trainings mit, um Einstellungen wie die Architektur feinzujustieren, ohne selbst gelernt zu werden. Testdaten bleiben bis zum Schluss unberührt und werden erst am fertigen Modell einmalig eingesetzt, um die echte Leistung zu messen. Wer diese drei Töpfe vermischt, misst am Ende nur, wie gut das Modell auswendig gelernt hat.
- Darf man urheberrechtlich geschützte Werke für KI-Training nutzen?
- Das ist rechtlich umstritten und je nach Rechtsraum unterschiedlich geregelt. In der EU erlaubt eine Text-and-Data-Mining-Ausnahme im Urheberrecht das Training grundsätzlich, außer Rechteinhaber widersprechen ausdrücklich. In den USA berufen sich große Anbieter oft auf die Fair-Use-Doktrin, die aber nicht unumstritten ist. Verlage und Kreative sehen beides kritisch, und die Rechtsprechung dazu ist noch nicht gefestigt.
Verwandte Begriffe
Verwandte Begriffe