Fine-Tuning einfach erklärt
Beim Fine-Tuning wird ein fertiges Sprachmodell mit einigen hundert bis tausend eigenen Beispielen nachtrainiert, damit es eine Aufgabe in genau der gewünschten Form erledigt, etwa Zeugnisse im Hausstil oder Belege in einem speziellen Format. Es verändert das Verhalten des Modells, nicht sein Wissen. Für Fragen zu Unternehmensdokumenten ist RAG fast immer der einfachere und günstigere Weg.
Ein fertiges Sprachmodell kann vieles, aber nicht alles so, wie ein bestimmtes Unternehmen es braucht. Fine-Tuning ist das Nachtrainieren eines solchen Modells mit eigenen Beispielen. Man zeigt ihm einige hundert bis einige tausend Paare aus Eingabe und gewünschter Ausgabe, und es lernt, dieses Muster zu reproduzieren. Das Ergebnis ist ein Modell, das im gewünschten Stil, Format oder Fachjargon antwortet, ohne dass man es in jedem Prompt erklären muss.
Wann Fine-Tuning sinnvoll ist
Fine-Tuning lohnt sich, wenn es um Verhalten geht: ein sehr spezielles Ausgabeformat, eine Fachsprache, die allgemeine Modelle nicht beherrschen, oder ein Stil, der in jedem Text gleich sein muss. Es lohnt sich nicht, um dem Modell Wissen beizubringen. Wer möchte, dass ein Assistent Fragen zu Verträgen und Handbüchern beantwortet, braucht RAG, nicht Fine-Tuning. Ein nachtrainiertes Modell weiß nach dem Training immer noch nicht, was in dem Vertrag steht, den Sie gestern unterschrieben haben.
Ein Beispiel aus dem Alltag
Ein Prüflabor erstellt täglich Berichte in einem Format, das aus Normen und Kundenvorgaben entstanden ist, mit festen Abschnitten, Formulierungen und Kennzeichnungen. Allgemeine Modelle brauchten dafür seitenlange Anweisungen und machten trotzdem Formatfehler. Mit 600 alten Berichten als Trainingsdaten wurde ein Open-Source-Modell nachtrainiert. Seitdem liefert es das Format zuverlässig, der Prüfer ergänzt nur noch die Messwerte und die Bewertung.
Was Geschäftsführer wissen sollten
Fine-Tuning kostet Zeit für die Aufbereitung der Beispiele, Rechenleistung und bei jedem Modellwechsel eine Wiederholung. In den meisten Projekten im Mittelstand ist es nicht der erste Schritt und oft gar nicht nötig. Wir prüfen zuerst, ob ein gut gebauter Prompt mit Beispielen und RAG ausreicht. Erst wenn das nachweislich nicht genügt, wird Fine-Tuning zum Thema.
Nächster Schritt
Welcher Prozess kostet Sie die meiste Zeit?
Erzählen Sie es in 30 Minuten. Sie bekommen eine ehrliche Einschätzung, ob KI dort hilft und was der erste Schritt wäre.