Dziecko, które nigdy nie widziało zebry, nadal potrafi ją rozpoznać, gdy usłyszy, że wygląda jak koń w paski. Uczenie bezstratne wymaga od maszyn czegoś podobnego: obsługi klas lub zadań, w których nigdy nie były szkolone, wykorzystując informacje pomocnicze, takie jak opisy atrybutów czy relacje semantyczne.
W klasyfikacji obrazów model zero-shot może być trenowany na kotach i psach, ale proszony o identyfikację wilka. Jeśli model wyuczył się atrybutów takich jak „ma futro”, „ma spiczaste uszy” i „żyje w stadach”, może połączyć je w reprezentację wilka, nigdy go nie widząc. Pomost między klasami widzianymi i niewidzianymi stanowi zazwyczaj wspólna przestrzeń semantyczna, często zbudowana z opisów tekstowych lub grafów wiedzy.
Dlaczego to ważne
- Nowe kategorie pojawiają się ciągle, a ich etykietowanie jest powolne
- Niektóre klasy są rzadkie lub niemożliwe do zebrania na dużą skalę
- Duże modele językowe teraz wykonują wiele zadań bez użycia poleceń
- Zmniejsza koszty wdrażania modelu w nowych domenach
Wydajność bez prób nadal pozostaje niższa niż w przypadku uczenia nadzorowanego w większości testów porównawczych. Różnica zmniejsza się, gdy opisy pomocnicze są bogate, a klasy niewidoczne są zbliżone do rozkładu treningowego. Gdy są one od siebie oddalone, model zgaduje słabo, a często pewnie.
Comments (2)
Leave a comment