Einfach erklärt
(KI/ML) Robustheit bedeutet: Ein KI‑System bleibt zuverlässig, auch wenn die Eingaben nicht perfekt sind – z. B. leicht verrauscht, unscharf, anders beleuchtet, mit Tippfehlern oder von einer anderen Kamera/Mikrofon. Ein robustes System liefert stabile Ergebnisse, obwohl die Bedingungen vom Training abweichen.
Ganz einfache Beispiele:
• Bilder: Das Modell erkennt ein Stop‑Schild auch bei Regen/Nacht oder wenn die Kamera wackelt.
• Sprache: Die Erkennung funktioniert trotz Akzent oder Hintergrundgeräuschen.
• Texteingabe: Eine App versteht die Anfrage trotz Tippfehlern („Restorant“).
Professionelle Definition
Robustheit bezeichnet die Fähigkeit eines Modells, unter Störungen und Verteilungsverschiebungen (Dataset/Distribution Shift) eine hohe Leistung zu halten. Man unterscheidet u. a.:
• Korruptions‑/Rausch‑Robustheit (Average‑Case): Leistung bleibt unter realistischen Störungen (Rauschen, Unschärfe, JPEG‑Artefakte, Wetter, Beleuchtung) hoch; gemessen z. B. auf CIFAR‑10‑C/ImageNet‑C.
• Adversariale Robustheit (Worst‑Case): Stabilität gegen gezielte, kleine Störungen (\delta) mit Schranken (z. B. (\lVert\delta\rVert_p\le\varepsilon)); formal oft Min‑Max‑Risiko (\min_\theta,\mathbb E,\max_{\delta\in S},\ell(f_\theta(x+\delta),y)).
• OOD‑/Shift‑Robustheit: Generalisierung bei anderen Verteilungen (Kontext, Geräte, Domänen); einschl. Erkennung von Out‑of‑Distribution (OOD)‑Eingaben.
Ansätze zur Erhöhung der Robustheit:
• Daten‑Korruption/Augmentation (z. B. Wetter/Artefakte), Domänenanpassung und Invarianzlernen.
• Adversarial Training und zertifizierte Verfahren (z. B. Randomized Smoothing für (\ell_2)).
• Modelle & Pipelines: Ensembling, Normalisierung, Unsicherheits‑Schätzung, OOD‑Detektion, Qualitätssicherung im Einsatz (Monitoring).
Quellen
• Wikipedia – Adversarial machine learning / Adversarial examples (Grundlagen adversariale Robustheit)
https://en.wikipedia.org/wiki/Adversarial_machine_learning
https://en.wikipedia.org/wiki/Adversarial_example
• Wikipedia – Dataset shift (Verteilungsverschiebungen, Arten/Begriffe)
https://en.wikipedia.org/wiki/Dataset_shift
• Hendrycks & Dietterich (2019) – Benchmarking Neural Network Robustness to Common Corruptions and Perturbations (CIFAR‑10‑C/ImageNet‑C)
https://arxiv.org/abs/1903.12261
• Cohen, Rosenfeld, Kolter (2019) – Certified Adversarial Robustness via Randomized Smoothing
https://arxiv.org/abs/1902.02918
https://proceedings.mlr.press/v97/cohen19c.html
• Quiñonero‑Candela et al. (2009) – Dataset Shift in Machine Learning (Buch, Überblick/Methoden)
https://mitpress.mit.edu/9780262170055/dataset-shift-in-machine-learning/