シマウマを見たことがない子供でも、縞模様のある馬に似ていると言われれば、シマウマだと認識できます。ゼロショット学習は、これと似たようなことを機械に求めます。つまり、属性の説明や意味的な関係といった補助情報を用いて、これまで学習したことのないクラスやタスクを処理するように機械に促すのです。

画像分類において、ゼロショットモデルは猫や犬で学習させた後、オオカミを識別するように求められることがある。モデルが「毛皮がある」「耳が尖っている」「群れで生活する」といった属性を学習していれば、オオカミを実際に見たことがなくても、それらを組み合わせてオオカミの表現を作り出すことができる。既知クラスと未知クラスの間の橋渡しとなるのは、通常、テキストによる説明や知識グラフから構築される共有セマンティック空間である。

なぜそれが重要なのか

• 新しいカテゴリーが絶えず出現し、それらにラベルを付けるには時間がかかる。
• 一部のクラスは、大規模に収集することが稀であったり、不可能であったりする。
• 大規模な言語モデルは現在、プロンプトのみから多くのタスクをゼロショットで実行します。
• これにより、モデルを新しいドメインに展開する際のコストが削減されます。

ゼロショット学習の性能は、ほとんどのベンチマークにおいて依然として教師あり学習に劣ります。補助的な記述が豊富である場合、また未知のクラスが訓練データの分布に近い場合、その差は縮まります。両者が大きく離れている場合、モデルの推測は不十分で、しばしば自信過剰になってしまいます。