Manusia mempelajari kategori baru dari beberapa contoh saja. Sebagian besar model pembelajaran mesin membutuhkan ribuan contoh. Pembelajaran few-shot mempersempit kesenjangan itu dengan melatih model untuk mengenali kelas baru hanya dari beberapa sampel berlabel.
Pendekatannya beragam. Pembelajaran metrik melatih jaringan untuk membandingkan contoh, sehingga kelas baru dapat dicocokkan berdasarkan kesamaan. Meta-learning melatih model untuk belajar dengan cepat di banyak tugas. Model bahasa besar mencapai perilaku few-shot hanya melalui pemberian petunjuk, tanpa pembaruan bobot.
Pengaturan umum
- Satu kali kesempatan, satu contoh per kelas.
- Lima sesi, lima contoh per kelas.
- K-shot N arah, N kelas dengan K contoh masing-masing
- Tanpa contoh, hanya deskripsi.
Performa few-shot masih tertinggal dibandingkan supervisi penuh pada sebagian besar benchmark. Kesenjangan tersebut semakin mengecil, terutama untuk tugas-tugas bahasa, tetapi teknik ini bekerja paling baik bila dikombinasikan dengan pretraining yang kuat dan desain prompt yang cermat.
Comments
No comments yet. Be the first to share a thought.
Leave a comment