Aktuelle KI Kurse & Schulungen
Startseite > Definitionen Künstliche Intelligenz – KI Glossar, Lexikon & Begriffe > Loss Function
6 A B C D E F G H I K L M N O P Q R S T U V W Z
La Le Ll Lo

Loss Function

—

von

Philipp: Schweizer KI Akademie

Einfach erklärt

Eine Verlustfunktion sagt dem Lernverfahren, wie «schlecht» eine Vorhersage ist. Für jeden Datenpunkt berechnet sie einen Fehlerwert. Das Ziel beim Trainieren ist, die durchschnittliche Verlustsumme möglichst klein zu machen. So lernt das Modell, bessere Vorhersagen zu machen.

Warum ist das wichtig? Die Wahl der Verlustfunktion legt fest, was als Fehler gilt. Je nach Aufgabe braucht es eine passende Messart – sonst optimiert das Modell am Ziel vorbei.

Beispiele für Verlustfunktionen:

  • Mittlere quadratische Abweichung (für Regression): große Abweichungen werden stark bestraft.
  • Kreuzentropie (für Klassifikation): vergleicht vorhergesagte Wahrscheinlichkeiten mit den wahren Klassen.
  • Huber‑Verlust (robust): kombiniert quadratische und absolute Abweichung, weniger empfindlich bei Ausreißern.
  • Fehlerrate (0/1‑Verlust): zählt nur „richtig“ oder „falsch“. Einfach, aber schwer zu optimieren.

Professionelle Definition

Eine Verlustfunktion (L(y, \hat y)) ordnet einem wahren Zielwert (y) und einer Vorhersage (\hat y) eine nichtnegative reelle Zahl zu, die die Güte der Vorhersage misst. In der empirischen Risikominimierung wird die zu minimierende Zielfunktion als Durchschnitt der Verluste über die Stichprobe definiert. Gängige Beispiele sind die quadratische Abweichung ((y-\hat y)^2), die absolute Abweichung (|y-\hat y|), die Kreuzentropie für probabilistische Klassifikation sowie margin‑basierte Surrogate (z. B. Log‑Verlust) für nicht differenzierbare Ziele wie den 0/1‑Verlust. Die Wahl von (L) beeinflusst die statistischen Eigenschaften des Schätzers (Bias/Varianz, Robustheit) und die Optimierbarkeit (Konvexität, Glattheit).

Quellen