Glossar

LLM (Large Language Model)

Ein LLM (Large Language Model) ist ein großes Sprachmodell, das an sehr vielen Texten trainiert wurde und daraus gelernt hat, auf eine Eingabe den wahrscheinlich passenden nächsten Text zu erzeugen, vom kurzen Satz bis zum strukturierten Dokument.

Stand:

Auch: Large Language Model, Großes Sprachmodell, Sprachmodell

Bekannte Beispiele sind die Modelle hinter ChatGPT, Claude, Gemini oder Mistral. Technisch sagt ein LLM Wort für Wort voraus, was als Nächstes kommen sollte. Weil es dabei Grammatik, Fachsprache und viele Zusammenhänge gelernt hat, kann es zusammenfassen, übersetzen, Entwürfe schreiben, Daten aus Texten herausziehen und Code erzeugen.

Wichtig für den Einsatz im Betrieb: Ein LLM weiß nichts über Ihr Unternehmen, solange Sie es ihm nicht mitgeben, etwa über RAG oder im Prompt. Es kann außerdem überzeugend falsch liegen, siehe Halluzination. Deshalb wird ein LLM im Unternehmen fast nie allein eingesetzt, sondern als Baustein in einem Ablauf, der Daten liefert, Ergebnisse prüft und einen Menschen dort einbindet, wo eine Entscheidung zählt.

Die Wahl des Modells ist weniger wichtig, als viele glauben. Entscheidender sind die Fragen, wo die Daten verarbeitet werden, ob der Anbieter Eingaben zum Training nutzt und ob ein Vertrag zur Auftragsverarbeitung vorliegt. Wer Modelle austauschbar anbindet, kann später wechseln, ohne den Ablauf neu zu bauen.