Feinabstimmung (Fine-Tuning)
Feinabstimmung (Fine-Tuning) ist das Nachtrainieren eines vorhandenen Sprachmodells mit eigenen Beispielen, damit es eine bestimmte Aufgabe, einen Stil oder ein Ausgabeformat zuverlässiger beherrscht.
Stand:
Auch: Fine-Tuning, Nachtraining, Feinabstimmung
Beim Fine-Tuning wird kein Modell von Grund auf gebaut. Man nimmt ein fertiges Modell und zeigt ihm einige hundert bis tausende Paare aus Eingabe und gewünschter Ausgabe. Danach trifft es diese Art von Aufgabe besser, etwa Ihre Fehlercodes richtig zuzuordnen oder Angebotstexte in Ihrem Aufbau zu schreiben.
Fine-Tuning ist nicht der Weg, einem Modell Fakten beizubringen. Wissen, das sich ändert, wie Preise, Produkte oder Richtlinien, gehört in eine RAG-Anwendung, weil es dort ohne neues Training aktuell bleibt und die Quelle nachweisbar ist. Fine-Tuning lohnt sich vor allem für Form und Verhalten: festes Format, Fachsprache, Klassifikation nach Ihren Kategorien.
Bevor Sie feinabstimmen, lohnt ein Versuch mit gutem Prompt und Beispielen im Prompt. Das reicht häufiger, als man denkt. Wenn Fine-Tuning nötig ist, sind offene Modelle eine Option, die sich auf eigener Hardware trainieren und betreiben lassen. Die Trainingsdaten sollten Sie dann wie jede andere Datenverarbeitung behandeln: Personenbezug prüfen, Zweck festhalten und die Daten nach dem Training sicher ablegen oder löschen.