Mensen leren nieuwe categorieën aan de hand van een handvol voorbeelden. De meeste machine learning-modellen hebben er duizenden nodig. Few-shot learning verkleint die kloof door modellen te trainen om nieuwe categorieën te herkennen aan de hand van slechts een paar gelabelde voorbeelden.
De aanpak verschilt. Metrisch leren traint netwerken om voorbeelden te vergelijken, zodat nieuwe klassen op basis van gelijkenis kunnen worden gekoppeld. Meta-leren traint modellen om snel te leren over veel verschillende taken. Grote taalmodellen bereiken few-shot-gedrag door alleen prompts te gebruiken, zonder gewichtsupdates.
Algemene instellingen
- Eenmalig, één voorbeeld per les.
- Vijf schoten, vijf voorbeelden per les.
- N-weg K-shot, N klassen met elk K voorbeelden
- Nul foto's, geen voorbeelden, alleen beschrijvingen.
De few-shot-methode presteert op de meeste benchmarks nog steeds minder goed dan de methode met volledige supervisie. Het verschil wordt kleiner, vooral bij taaltaken, maar de techniek werkt het beste in combinatie met een sterke pretraining en een zorgvuldig ontworpen prompt.
Comments
No comments yet. Be the first to share a thought.
Leave a comment