学習にはスコアが必要です。損失関数はモデルの予測の誤り度合いを測定し、オプティマイザが最小化すべき値となります。分類には交差エントロピー、回帰には平均二乗誤差が用いられます。特殊なタスクには独自の損失関数を用いることもできます。
選択によって動作が決まる。交差エントロピーで学習したモデルは、較正された確率を学習する。ヒンジ損失で学習したモデルは、マージンを学習する。アーキテクチャとデータが同じ2つのモデルでも、最小化するように指示する内容によって、動作は大きく異なる可能性がある。
一般的な損失関数
- 回帰分析における平均二乗誤差
- 分類のための交差エントロピー
- マージンベース分類器におけるヒンジ損失
- 埋め込み表現に対するコントラスト損失
- 類似性学習のためのトリプレット損失
データの不均衡は損失関数を複雑化させる。交差エントロピーに基づいて学習された分類器は、重みを調整しない限り、多数派クラスを優先する傾向がある。焦点損失とクラス重み付けは、追加の調整が必要となるものの、この問題を解決する。
Comments (3)
Leave a comment