住宅の規模、立地、築年数に関係なく、すべての住宅の平均価格を予測するモデルは、適合不足の状態にある。つまり、有用な構造を十分に学習できていない。適合不足は、モデルが単純すぎる場合、学習時間が短すぎる場合、またはデータ内のパターンを捉えるのに十分な特徴量が不足している場合に発生する。

その症状は容易に見分けられます。訓練データセット自体における性能の低さです。モデルがノイズを記憶して新しいデータに対応できなくなる過学習とは異なり、過小学習はあらゆる場面で失敗します。曲線に直線を当てはめようとすると、訓練データとテストデータの両方を捉えることができません。

典型的な原因

• モデルの容量が問題の複雑さに対して低すぎる
• トレーニングエポック数が少なすぎるか、学習速度が停滞している。
• 入力機能が欠落している、または設計が不十分である
• 重みを過度に制約する過剰な正則化

解決策としては、通常は容量を増やす、学習時間を長くする、あるいはモデルにより質の高い入力データを与えるなどが挙げられます。しかし、問題はモデルではなくデータにある場合もあります。信号がノイズに埋もれてしまっている場合、どんなアーキテクチャを用いても解決することはできません。アンダーフィッティングを早期に診断することで、何週間にも及ぶ無駄なチューニング作業を回避できます。