Kurz erklärt
Ein Large Language Model (LLM, deutsch „großes Sprachmodell") ist ein KI-Modell, das auf riesigen Mengen an Text trainiert wurde und darauf spezialisiert ist, menschliche Sprache zu verstehen und zu erzeugen. LLMs sind die Technologie hinter Werkzeugen wie ChatGPT und bilden das Herzstück der generativen KI-Welle.
Ihre Kernfähigkeit klingt erstaunlich einfach: Sie sagen voraus, welches Wort – genauer: welcher Sprachbaustein – als Nächstes am wahrscheinlichsten folgt. Aus dieser scheinbar simplen Aufgabe entsteht, im riesigen Maßstab und mit gewaltigen Datenmengen trainiert, die Fähigkeit, flüssige Texte zu schreiben, Fragen zu beantworten, zu übersetzen und zu programmieren.
Das „Large" im Namen ist wörtlich zu nehmen: Diese Modelle bestehen aus Milliarden von Parametern – den intern gelernten Stellschrauben – und wurden mit einem großen Teil des öffentlich verfügbaren Textes trainiert. Genau diese Größe erklärt sowohl die beeindruckenden Fähigkeiten als auch die charakteristischen Schwächen.
Wie ein LLM funktioniert
Im Kern arbeitet ein LLM mit Wahrscheinlichkeiten. Es zerlegt Text in kleine Einheiten, sogenannte Token – das können ganze Wörter, Wortteile oder Zeichen sein. Auf Basis des bisherigen Textes berechnet das Modell, welches Token als Nächstes am wahrscheinlichsten ist, wählt es aus, hängt es an und wiederholt den Vorgang. So entsteht Wort für Wort eine Antwort. Die zugrundeliegende Architektur heißt „Transformer" und erlaubt es dem Modell, weit auseinanderliegende Teile eines Textes in Beziehung zu setzen – der Grund, warum LLMs Kontext über längere Passagen halten können.
Entscheidend für das Verständnis: Ein LLM „weiß" nichts im menschlichen Sinne und schlägt nichts nach. Es erzeugt die statistisch plausibelste Fortsetzung. Das erklärt, warum es oft brillant und manchmal selbstbewusst falsch ist.