Et barn som aldri har sett en sebra, kan fortsatt gjenkjenne en etter å ha blitt fortalt at den ser ut som en hest med striper. Nullskuddslæring ber maskiner om å gjøre noe lignende: håndtere klasser eller oppgaver de aldri har blitt trent på, ved hjelp av tilleggsinformasjon som attributtbeskrivelser eller semantiske relasjoner.
I bildeklassifisering kan en nullbildemodell trenes på katter og hunder, men bli bedt om å identifisere en ulv. Hvis modellen har lært attributter som «har pels», «har spisse ører» og «lever i flokk», kan den sette sammen disse til en representasjon av en ulv uten å noen gang ha sett en. Broen mellom synlige og usynlige klasser er vanligvis et delt semantisk rom, ofte bygget fra tekstbeskrivelser eller kunnskapsgrafer.
Hvorfor det er viktig
- Nye kategorier dukker stadig opp, og det går tregt å merke dem
- Noen klasser er sjeldne eller umulige å samle i stor skala
- Store språkmodeller utfører nå mange oppgaver på nullpunkt fra bare en prompt
- Det reduserer kostnadene ved å distribuere en modell til nye domener
Nullpunktsytelsen henger fortsatt etter veiledet læring på de fleste benchmarks. Gapet blir mindre når hjelpebeskrivelsene er rike og de usynlige klassene er nær treningsfordelingen. Når de er langt fra hverandre, gjetter modellen dårlig og ofte med selvtillit.
Comments (2)
Leave a comment