Ett barn som aldrig har sett en zebra kan fortfarande känna igen en efter att ha fått höra att den ser ut som en häst med ränder. Noll-shot-inlärning ber maskiner att göra något liknande: hantera klasser eller uppgifter de aldrig har tränats på, med hjälp av hjälpinformation som attributbeskrivningar eller semantiska relationer.
Vid bildklassificering kan en nollbildsmodell tränas på katter och hundar men ombeds identifiera en varg. Om modellen har lärt sig attribut som "har päls", "har spetsiga öron" och "lever i flock" kan den sammansätta dessa till en representation av varg utan att någonsin se en. Bryggan mellan synliga och osynliga klasser är vanligtvis ett delat semantiskt utrymme, ofta byggt från textbeskrivningar eller kunskapsgrafer.
Varför det spelar roll
- Nya kategorier dyker upp ständigt och det går långsamt att märka dem
- Vissa klasser är sällsynta eller omöjliga att samla in i stor skala
- Stora språkmodeller utför nu många uppgifter direkt från en prompt
- Det minskar kostnaden för att distribuera en modell till nya domäner
Nollpunktsprestanda släpar fortfarande efter övervakad inlärning på de flesta riktmärken. Skillnaden minskar när hjälpbeskrivningarna är omfattande och de osynliga klasserna ligger nära träningsfördelningen. När de är långt ifrån varandra gissar modellen dåligt och ofta med säkerhet.
Comments (2)
Leave a comment