LLM
Large Language Model
Kurz erklärt
Ein LLM, Large Language Model, ist ein grosses Sprachmodell: eine Software, die aus riesigen Textmengen gelernt hat, welches Wort mit welcher Wahrscheinlichkeit auf das vorherige folgt. ChatGPT, Claude und Gemini beruhen darauf. Ein LLM erzeugt deshalb plausible Sprache, keine geprüften Fakten – eine Antwort kann flüssig, überzeugend und trotzdem falsch sein, ohne dass im Programm ein Fehler vorliegt.
Der häufigste Irrtum: ein LLM weiss Dinge
Ein Sprachmodell ist keine Datenbank. Es schlägt keine Fakten nach, sondern erzeugt Text aus gelernten Mustern. Fehlt ihm etwas, formuliert es eine erfundene Antwort mit derselben Sicherheit wie eine richtige.
Im Unternehmen wird es deshalb meist erst mit einer Verbindung zu den eigenen Daten brauchbar: Das Modell formuliert, die Fakten kommen aus deinen Dokumenten. Das Verfahren dahinter heisst Retrieval Augmented Generation.
Was ein LLM gut kann und was nicht
Stark ist es bei Sprache: zusammenfassen, umformulieren, entwerfen, einordnen, Angaben aus unstrukturiertem Text ziehen. Schwach ist es bei allem, was exakt sein muss: Rechnen, aktuelle Zahlen, Rechtsauskunft ohne Quelle.
Die Frage lautet deshalb selten «können wir ein LLM einsetzen?», sondern «wo darf ein Fehler passieren, und wer prüft ihn?».
Für ein Schweizer KMU
Das Datenschutzgesetz gilt auch für KI. Der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte hat im November 2023 festgehalten, dass das geltende DSG direkt auf KI-gestützte Datenbearbeitung anwendbar ist. Wer Kundendaten in ein Modell gibt, muss wissen, wo sie verarbeitet werden und ob sie zum Training verwendet werden.
Es gibt inzwischen auch eine Schweizer Option: Apertus, ein offenes Sprachmodell von EPFL, ETH Zürich und dem Nationalen Hochleistungsrechenzentrum CSCS, veröffentlicht 2025.
Wie wir damit umgehen
Wir wählen das Modell nach der Aufgabe und nach dem Datenweg, nicht nach der Schlagzeile. Wo Personendaten im Spiel sind, klären wir zuerst, wo das Modell läuft und was es behalten darf – Teil unserer KI-Beratung und der AI Governance.
Und wir bauen so, dass ein Mensch sieht, woher eine Antwort stammt. Eine Antwort ohne Quelle ist ein Entwurf, keine Auskunft.
Verwandte Begriffe
Ein Begriff im Angebot, den niemand erklärt hat?
Im Strategiegespräch übersetzen wir das Angebot, das dir vorliegt – auch wenn es nicht von uns stammt.