Sprachmodell (LLM) einfach erklärt
Ein Sprachmodell, englisch Large Language Model oder LLM, ist der Motor hinter ChatGPT und vergleichbaren Diensten. Es hat an riesigen Textmengen gelernt, Sprache zu verarbeiten, und kann deshalb Anfragen verstehen, Dokumente zusammenfassen, Antworten formulieren und Daten aus Text herausziehen. Im Unternehmen wird es meist über eine Schnittstelle in eigene Anwendungen eingebaut.
Ein Sprachmodell ist ein Programm, das an einer sehr großen Menge Text gelernt hat, wie Sprache funktioniert: welche Wörter aufeinander folgen, wie Sätze gebaut sind, wie eine Frage und eine passende Antwort zusammenhängen. Die Abkürzung LLM steht für Large Language Model, großes Sprachmodell. Groß bezieht sich auf die Zahl der Parameter, also der inneren Stellschrauben, und die liegt bei aktuellen Modellen im Bereich von Milliarden.
Was ein Sprachmodell kann
Es verarbeitet Text in beide Richtungen. Es versteht eine Eingabe, etwa eine Kundenanfrage, und erkennt, worum es geht, welche Produkte genannt sind und wie dringend es klingt. Und es erzeugt Text: eine Antwort, eine Zusammenfassung, eine Übersetzung, einen strukturierten Datensatz aus einem Freitext. Diese zweite Fähigkeit macht es zur Grundlage der generativen KI.
Ein Beispiel aus dem Alltag
Im Servicepostfach eines Maschinenbauers landet eine E-Mail: „Die Anlage aus 2019 macht seit gestern Geräusche am Hauptantrieb, wir haben Montag Audit, bitte dringend.“ Ein Sprachmodell erkennt daraus Anlage, Baugruppe, Symptom, Dringlichkeit und Frist, und zwar ohne dass jemand diese Felder vorher als Regeln programmiert hätte. Das Ergebnis geht als strukturiertes Ticket an den Service.
Was Geschäftsführer wissen sollten
Sprachmodelle gibt es von mehreren Anbietern, als Cloud-Dienst oder als Open-Source-Modell für den eigenen Server. Sie arbeiten mit Token und haben ein begrenztes Kontextfenster, was Kosten und Einsatzgrenzen bestimmt. Und sie wissen nichts über Ihr Unternehmen, bis man ihnen die Informationen mitgibt, siehe RAG. Die Auswahl des Modells ist eine Entscheidung, die wir in der KI-Implementierung anhand Ihrer Daten und Anforderungen treffen, nicht anhand von Schlagzeilen.
Nächster Schritt
Welcher Prozess kostet Sie die meiste Zeit?
Erzählen Sie es in 30 Minuten. Sie bekommen eine ehrliche Einschätzung, ob KI dort hilft und was der erste Schritt wäre.