Dítě, které nikdy nevidělo zebru, ji stále dokáže rozpoznat, i když mu bude řečeno, že vypadá jako pruhovaný kůň. Učení s nulovým počtem žádá stroje, aby dělaly něco podobného: zvládaly třídy nebo úkoly, na které nikdy nebyly trénovány, s využitím pomocných informací, jako jsou popisy atributů nebo sémantické vztahy.
V klasifikaci obrázků může být model s nulovým potenciálem trénován na kočkách a psech, ale požádán o identifikaci vlka. Pokud se model naučil atributy jako „má srst“, „má špičaté uši“ a „žije ve smečkách“, může je sestavit do reprezentace vlka, aniž by ho kdy viděl. Most mezi viditelnými a neviditelnými třídami je obvykle sdílený sémantický prostor, často vybudovaný z textových popisů nebo znalostních grafů.
Proč na tom záleží
- Nové kategorie se objevují neustále a jejich označování je pomalé
- Některé třídy jsou vzácné nebo nemožné je sbírat ve velkém měřítku.
- Velké jazykové modely nyní provádějí mnoho úkolů bez nutnosti zadání vlastního zadání.
- Snižuje náklady na nasazení modelu do nových domén
Výkon nulového počtu pokusů stále zaostává za supervidovaným učením ve většině benchmarků. Rozdíl se zmenšuje, když jsou pomocné popisy bohaté a neviditelné třídy se nacházejí blízko trénovací distribuci. Když jsou od sebe daleko, model odhaduje špatně a často sebejistě.
Comments (2)
Leave a comment