人類只需少量範例就能學習新的類別,而大多數機器學習模型卻需要成千上萬個範例。少樣本學習透過訓練模型僅使用少量標記樣本就能識別新類別,從而縮小了這一差距。
方法多種多樣。度量學習訓練網絡來比較樣本,從而可以根據相似性來匹配新的類別。元學習訓練模型快速學習多種任務。大型語言模型僅透過提示就能實現少樣本學習行為,而無需更新權重。
常用設定
- 一次性,每節課一個例子
- 每班五槍,五個例子
- N路K樣本實驗,N類,每類K個樣本。
- 零樣本,沒有範例,只有描述
在大多數基準測試中,少樣本學習的表現仍然落後於全監督學習。雖然差距正在縮小,尤其是在語言學習任務上,但該技術只有在結合強有力的預訓練和精心設計的提示時才能發揮最佳效果。
Comments
No comments yet. Be the first to share a thought.
Leave a comment