Einfach erklärt
Zero‑shot Beim Lernen ohne Beispiele soll ein Modell etwas Neues erkennen oder tun, ohne dafür vorher ein einziges passendes Beispiel gesehen zu haben. Es nutzt allgemeines Wissen und Beschreibungen (z. B. Wörter), um die neue Aufgabe zu verstehen.
Warum ist das nützlich?
- Für viele Dinge gibt es keine Trainingsdaten (seltene Tiere, neue Produkte).
- Modelle können sofort auf Neues reagieren, wenn eine Beschreibung vorhanden ist.
Ganz einfache Bilder:
- Tier erkennen nach Beschreibung: „Ein Okapi ist braun, hat weiße Ringel an den Beinen.“ – Das Modell findet in Bildern Okapis, obwohl es keine Okapi‑Fotos im Training hatte.
- Neues Piktogramm: Ein neues Schild wird beschrieben; das Modell ordnet es korrekt zu, ohne vorherige Beispiele.
- Textaufgabe: Mit einer klaren Anweisung (Prompt) löst das Modell eine neue Aufgabe, für die es keine Übungsbeispiele bekam.
Professionelle Definition
Zero‑shot‑Lernen bezeichnet Verfahren, die auf unbeobachtete Klassen oder Aufgaben generalisieren, indem sie eine gemeinsame semantische Darstellung nutzen (z. B. Attribute, Wort‑Einbettungen, Textbeschreibungen). In der klassischen Bildklassifikation wird ein Abbild (x) in einen Merzraum projiziert und mit Repräsentationen (a_c) ungesehener Klassen (z. B. Attribut‑Vektoren) abgeglichen; die Vorhersage ist (\arg\max_c , \mathrm{sim}(f(x), a_c)). Moderne Ansätze verwenden gemeinsam trainierte Bild‑/Text‑Einbettungen (z. B. Kontrastives Lernen) für direktes Zero‑shot‑Mapping von Bildern auf Textlabels. In Sprachmodellen wird Zero‑shot häufig als In‑Kontext‑Anweisung ohne Beispiele umgesetzt (reine Aufgabenbeschreibung).
Quellen
- Wikipedia – Zero‑shot learning (Überblick, Attribute, semantische Räume)
https://en.wikipedia.org/wiki/Zero-shot_learning - Xian et al. (2017) – Zero‑Shot Learning – A Comprehensive Evaluation of the Good, the Bad and the Ugly (CVPR)
https://openaccess.thecvf.com/content_cvpr_2017/papers/Xian_Zero-Shot_Learning_The_CVPR_2017_paper.pdf - Frome et al. (2013) – DeViSE: A Deep Visual‑Semantic Embedding Model
https://papers.nips.cc/paper_files/paper/2013/file/7cce53cf90577442771720a370c3c723-Paper.pdf - Radford et al. (2021) – Learning Transferable Visual Models From Natural Language Supervision (CLIP, Zero‑shot Bildklassifikation)
https://arxiv.org/abs/2103.00020 - Brown et al. (2020) – Language Models are Few‑Shot Learners (Zero‑/One‑/Few‑shot in großen Sprachmodellen)
https://arxiv.org/abs/2005.14165