Glossar · einfach erklärt

LLM (Large Language Model)

Large Language Models verarbeiten und erzeugen Sprache — die Basistechnologie hinter ChatGPT, Copilots und Unternehmens-KI.

Ein Large Language Model (LLM) ist ein neuronales Netz, das auf riesigen Textmengen trainiert wurde und Sprache statistisch modelliert: Es sagt Token für Token die wahrscheinlichste Fortsetzung voraus — und kann dadurch Texte verstehen, zusammenfassen, übersetzen, Code schreiben und Fragen beantworten. LLMs sind die Grundlage von Diensten wie ChatGPT, Claude und den Copilots in Office-Werkzeugen.

Für Unternehmen sind LLMs zugleich Produktivitätshebel und Governance-Thema: Sie beschleunigen Wissensarbeit messbar, bringen aber eigene Risiken mit — von Halluzinationen über Datenabfluss bis zu neuen Angriffsflächen wie Prompt Injection.

Wie LLMs funktionieren — in Kürze

Technische Basis ist die Transformer-Architektur: Texte werden in Token zerlegt, als Vektoren repräsentiert und über Attention-Mechanismen in Beziehung gesetzt. Im Pre-Training lernt das Modell Sprachmuster aus Milliarden von Dokumenten; Feintuning und Alignment richten es danach auf hilfreiches, sicheres Verhalten aus. Das Kontextfenster begrenzt, wie viel Text das Modell je Anfrage einbeziehen kann.

Wichtig fürs Erwartungsmanagement: Ein LLM ist kein Nachschlagewerk, sondern ein Wahrscheinlichkeitsmodell — es kann überzeugend formulierte Fehlinformationen erzeugen (Halluzinationen) und kennt nur den Stand seines Trainings. Verlässlich wird es im Unternehmenseinsatz durch Anbindung an eigene, geprüfte Wissensquellen (RAG) und durch menschliche Kontrolle kritischer Ausgaben.

Einsatz im Unternehmen: die Weichenstellungen

Bezugsmodell: API großer Anbieter, europäisches Hosting oder selbst betriebene Open-Weight-Modelle — je nach Datenschutz- und Kostenlage.
Datenschutz: klare Regeln, welche Daten in welche Modelle dürfen; AVV und Verarbeitungsorte prüfen.
Grounding: RAG statt blindem Vertrauen — Antworten aus eigenen Quellen mit Belegen.
Governance: Nutzung sichtbar machen (Stichwort Shadow AI) und EU-AI-Act-Pflichten zuordnen.

Häufige Fragen zu LLM (Large Language Model)

Was bedeutet „Halluzination" bei LLMs?

Das Modell erzeugt flüssige, plausibel klingende Aussagen, die faktisch falsch sind — inklusive erfundener Quellen. Das ist kein Fehler im Einzelfall, sondern Konsequenz des Funktionsprinzips. Gegenmittel: Grounding über RAG, Quellenpflicht, Prüfprozesse für kritische Ausgaben.

Lernen LLMs aus unseren Eingaben?

Das hängt vom Vertrag ab: Business- und API-Angebote seriöser Anbieter schließen Training auf Kundendaten standardmäßig aus; kostenlose Consumer-Dienste teils nicht. Genau deshalb gehören dienstliche Daten nur in freigegebene Dienste mit AVV — und Shadow AI eingefangen.

Eigenes Modell betreiben oder API nutzen?

APIs liefern Spitzenqualität ohne Infrastruktur — gegen laufende Kosten und Datenfluss zum Anbieter. Open-Weight-Modelle auf eigener oder EU-Infrastruktur maximieren Kontrolle, verlangen aber GPU-Kapazität und Betriebskompetenz. Viele fahren zweigleisig: sensible Fälle intern, Breite per API.

Was sind Token und warum bestimmen sie die Kosten?

Token sind die Verarbeitungseinheiten des Modells — Wortteile von im Schnitt ~4 Zeichen. APIs rechnen pro Ein- und Ausgabe-Token ab, und das Kontextfenster begrenzt die Tokenmenge je Anfrage. Lange Dokumente und Chatverläufe treiben daher Kosten und Latenz.

Welche Sicherheitsrisiken bringen LLMs mit?

Drei Klassen: Datenabfluss über unkontrollierte Nutzung, manipulierte Modellausgaben durch Prompt Injection — kritisch, sobald LLMs Werkzeuge ansteuern — und klassische Lieferketten-/API-Risiken der eingebundenen Dienste. Zugriffskontrolle, Ausgabefilter und AI-Gateways adressieren das.