人間は少数の例から新しいカテゴリーを学習する。ほとんどの機械学習モデルは数千の例を必要とする。少数例学習は、ラベル付けされた少数のサンプルから新しいクラスを認識するようにモデルを訓練することで、このギャップを縮める。

アプローチは様々です。メトリック学習では、ネットワークが事例を比較するように訓練され、類似性に基づいて新しいクラスをマッチングできます。メタ学習では、モデルが多くのタスクにわたって迅速に学習するように訓練されます。大規模な言語モデルは、重みの更新なしに、プロンプトのみによって少数のサンプルで動作を実現します。

一般的な設定

• 1回限りの、クラスごとに1つの例
• 5発のショット、各クラスにつき5つの例
• N 方向 K ショット、各クラスに K 個のサンプル
• ゼロショット、例なし、説明のみ

少数のサンプルに基づく学習は、ほとんどのベンチマークにおいて、依然として完全な教師あり学習に劣る。特に言語タスクにおいてはその差は縮まりつつあるが、この手法は強力な事前学習と綿密なプロンプト設計と組み合わせることで最大限の効果を発揮する。