인간은 소수의 예시만으로 새로운 범주를 학습합니다. 하지만 대부분의 머신러닝 모델은 수천 개의 예시가 필요합니다. 퓨샷 러닝(Few-shot learning)은 레이블이 지정된 몇 개의 샘플만으로 새로운 클래스를 인식하도록 모델을 훈련시켜 이러한 격차를 줄입니다.
접근 방식은 다양합니다. 메트릭 학습은 네트워크가 예제를 비교하도록 훈련시켜 유사성을 기반으로 새로운 클래스를 매칭할 수 있도록 합니다. 메타 학습은 모델이 여러 작업을 빠르게 학습하도록 훈련합니다. 대규모 언어 모델은 가중치 업데이트 없이 프롬프트만으로 적은 데이터로도 안정적인 성능을 발휘합니다.
일반 설정
- 일회성 테스트, 수업당 하나의 예제만 제공됩니다.
- 수업당 5회, 5개의 예시
- N방향 K샷, 각 클래스에 K개의 예제가 있는 N개의 클래스
- 예시 없이, 오직 설명만 있습니다.
소수 데이터셋 기반 학습 방식은 대부분의 벤치마크에서 여전히 전체 지도 학습 방식보다 성능이 떨어집니다. 특히 언어 관련 작업에서 격차가 줄어들고 있지만, 이 기법은 강력한 사전 학습과 신중한 프롬프트 설계가 결합될 때 최상의 효과를 발휘합니다.
Comments
No comments yet. Be the first to share a thought.
Leave a comment