Finetuning

Okt. 6, 2025

—

von

Philipp: Schweizer KI Akademie

1) Einfach erklärt

(Feinabstimmung von KI‑Modellen) Finetuning bedeutet: Ein fertig vortrainiertes KI‑Modell wird mit zusätzlichen, passenden Beispielen nachtrainiert, damit es deine Aufgabe besser kann.

Warum? Ein großes Grundmodell kann vieles allgemein. Mit Finetuning lernt es dein Fachvokabular, dein Format oder deine Daten.

Beispiele:

Kundensupport‑Chat: Ein Sprachmodell wird mit echten, geprüften Support‑Dialogen feinabgestimmt → treffsichere Antworten im Marken‑Ton.
Qualitätsprüfung (Bild): Ein Vision‑Modell wird auf deine Bauteile und Fehlerklassen trainiert → bessere Erkennung.
Dokumenten‑Extraktion: Ein Modell lernt genau deine Felder (z. B. Rechnungsnummern) → höhere Präzision.

Wann reicht auch Prompting/RAG? Wenn du keine eigenen Labels hast oder Quellenbindung brauchst, sind gute Prompts + RAG (Abruf von Wissen mit Quellen) oft ausreichend. Finetuning lohnt sich, wenn Stil, Format oder Spezialwissen stabil und ohne Web‑Abruf sitzen sollen.

2) Professionelle Definition

Finetuning ist die Weiter‑Optimierung eines vortrainierten Modells fθf_\thetafθ auf einer zielaufgaben‑spezifischen Datenmenge durch erneutes Gradienten‑basiertes Training (teilweise oder vollständig entfrorene Gewichte). Ziel ist Domänen‑/Aufgaben‑Anpassung (Domain/Task Adaptation), Format‑/Stil‑Kontrolle und Leistungsgewinn gegenüber reinem Prompting.

Varianten:

Vollständiges Finetuning: Alle Gewichte trainierbar; höchste Kapazität, aber rechen‑/datenintensiv, Drift‑/Vergessensrisiko.
Parameter‑Effiziente Methoden (PEFT): Wenige Zusatz‑Parameter, Grundmodell bleibt eingefroren:
– LoRA/QLoRA (Low‑Rank‑Adapter),
– Adapter/Prefix/Prompt‑Tuning,
– Bit/4‑Bit‑Quantisierung zur Ressourcenschonung.
Instruction‑/SFT (Supervised Fine‑Tuning): Paarungen Eingabe→gewünschte Antwort; optional RLHF/RLAIF zur Politur der Verhaltenspräferenzen.

Alternativen/Ergänzungen: RAG (Retrieval‑Augmented Generation) für Quellenbezug, Distillation für leichtere Student‑Modelle.

Daten & Qualität:

Kuratiert, repräsentativ, rechtssicher, dedupliziert, mit klaren Richtlinien (Stil, Ton, Sicherheit).
Eval vor/nach dem Finetuning (z. B. Accuracy/F1/Exact‑Match; toxicity/harms‑Checks; Halluzinations‑/Quellen‑Tests).

Risiken & Kontrollen:

Überanpassung/Catastrophic Forgetting, Bias‑Verstärkung, Verletzung von Rechten/Geheimnissen (falls Trainingsdaten sensibel), Datenschutz.
Gegenmaßnahmen: Validierung/Monitoring, Early‑Stopping, Regularisierung, Holdout‑Eval, Safety‑Alignments, Privacy‑Techniken (z. B. Differential Privacy), Model‑/System Cards.