Con người học các loại mới từ một số ít ví dụ. Hầu hết các mô hình học máy cần hàng nghìn ví dụ. Học ít mẫu (few-shot learning) thu hẹp khoảng cách đó bằng cách huấn luyện các mô hình nhận biết các lớp mới chỉ từ một vài mẫu được gắn nhãn.
Các phương pháp rất đa dạng. Học dựa trên ma trận (metric learning) huấn luyện mạng nơ-ron để so sánh các ví dụ, nhờ đó các lớp mới có thể được ghép nối dựa trên sự tương đồng. Học siêu cấp (meta-learning) huấn luyện các mô hình để học nhanh chóng trên nhiều nhiệm vụ khác nhau. Các mô hình ngôn ngữ quy mô lớn đạt được hành vi học ít dữ liệu (few-shot behavior) chỉ bằng cách gợi ý (prompting), mà không cần cập nhật trọng số.
Cài đặt thông thường
- Một ví dụ duy nhất cho mỗi lớp học.
- Năm bức ảnh, năm ví dụ cho mỗi lớp
- N-way K-shot, N lớp với K ví dụ mỗi lớp
- Không có dữ liệu tham khảo, chỉ có mô tả.
Hiệu năng của phương pháp huấn luyện với số lượng ảnh ít vẫn còn thua kém so với phương pháp huấn luyện toàn diện trên hầu hết các bộ dữ liệu chuẩn. Khoảng cách này đang thu hẹp, đặc biệt là đối với các bài toán ngôn ngữ, nhưng kỹ thuật này hoạt động tốt nhất khi được kết hợp với quá trình huấn luyện trước mạnh mẽ và thiết kế lời nhắc cẩn thận.
Comments
No comments yet. Be the first to share a thought.
Leave a comment