Menschen lernen neue Kategorien anhand weniger Beispiele. Die meisten Modelle des maschinellen Lernens benötigen Tausende. Few-Shot Learning verringert diese Lücke, indem es Modelle trainiert, neue Klassen anhand von nur wenigen gekennzeichneten Beispielen zu erkennen.

Die Ansätze variieren. Metrisches Lernen trainiert Netzwerke darauf, Beispiele zu vergleichen, sodass neue Klassen anhand ihrer Ähnlichkeit zugeordnet werden können. Meta-Lernen trainiert Modelle darauf, schnell für viele Aufgaben zu lernen. Große Sprachmodelle erreichen ein Verhalten bei wenigen Beispielen allein durch gezieltes Training, ohne Gewichtsanpassungen.

Allgemeine Einstellungen

• Einmalig, ein einziges Beispiel pro Klasse
• Fünf Beispiele pro Klasse
• N-Wege-K-Shot-Verfahren, N Klassen mit jeweils K Beispielen
• Null-Schuss, keine Beispiele, nur Beschreibungen

Die Leistung von Few-Shot-Methoden hinkt bei den meisten Benchmarks noch hinter der von Full Supervision zurück. Die Lücke schließt sich zwar, insbesondere bei Sprachaufgaben, aber die Technik erzielt die besten Ergebnisse in Kombination mit intensivem Vortraining und sorgfältiger Promptgestaltung.