Kurz gesagt
Fine-Tuning ist der Vorgang, ein vortrainiertes KI-Modell zu nehmen und es auf einem fokussierten Satz eigener Beispiele weiterzutrainieren, sodass es zuverlässig einen bestimmten Stil, ein Format oder eine Fähigkeit übernimmt, ohne dass du es jedes Mal im Prompt sagen musst. Das Basismodell kann Sprache bereits breit; Fine-Tuning schiebt seine Gewichte in Richtung deines engen Anwendungsfalls, ob das nun heisst, in deiner Markenstimme zu antworten, immer eine bestimmte JSON-Form zurückzugeben oder eine Spezialdomäne zu behandeln. Es ist ein schwereres Werkzeug als Prompting oder RAG, weil es das Modell selbst verändert, also zahlt es sich aus, wenn du konsistentes Verhalten im grossen Massstab brauchst und gute Beispieldaten zum Lernen hast.
Wie Fine-Tuning funktioniert
Fine-Tuning trainiert ein bestehendes Modell auf gelabelten Beispielen des gewünschten Verhaltens. Du bereitest Paare aus Eingabe und idealer Ausgabe vor, startest einen Trainingslauf und bekommst eine angepasste Version des Modells zurück.
- Beispiele sammeln: sammle hochwertige Eingabe-zu-Ausgabe-Paare, die das gewünschte Verhalten zeigen.
- Trainieren: starte einen Fine-Tuning-Lauf, der die Modellgewichte in Richtung dieser Beispiele anpasst.
- Nutzen: rufe dein angepasstes Modell auf, das jetzt standardmässig zu diesem Stil oder dieser Aufgabe neigt.
Fine-Tuning vs RAG vs Prompting
Diese drei Wege, ein Modell anzupassen, lösen verschiedene Probleme. Prompting formt eine einzelne Antwort mit Anweisungen. RAG fügt zur Abfragezeit frisches Wissen hinzu, indem es Dokumente abruft. Fine-Tuning backt Verhalten ein, indem es die Gewichte ändert. Eine einfache Regel: erst prompten, RAG ergänzen, wenn das Modell deine Fakten kennen muss, und fine-tunen, wenn du konsistenten Stil oder ein Format brauchst, das Prompting nicht halten kann. Wissen gehört in RAG; Verhalten gehört ins Fine-Tuning.
Wann sich Fine-Tuning lohnt
Fine-Tuning lohnt den Aufwand, wenn eine Aufgabe im grossen Massstab wiederkehrt, die gewünschte Ausgabe eng und konsistent ist und du genug saubere Beispiele zum Lernen liefern kannst. Es ist meist nicht der erste Zug: es kostet Zeit und Geld, muss bei einem Update des Basismodells neu gemacht werden und fügt kein Live-Wissen hinzu. Für die meisten Builder bringt dich ein scharfer System Prompt plus RAG schon fast ans Ziel, und Fine-Tuning ist der letzte Schritt für die Fälle, in denen Konsistenz wirklich zählt.