損失函數 — 人工智慧

📏 損失函數

衡量預測值與實際值之間差異的函數。

訓練需要一個分數。損失函數衡量模型預測的誤差程度，為最佳化器提供最小化目標。分類任務使用交叉熵損失函數，迴歸任務使用均方誤差損失函數，特定任務可以使用自訂損失函數。

選擇決定行為。基於交叉熵訓練的模型學習的是校準後的機率，而基於鉸鏈損失訓練的模型學習的是間隔。即使架構和資料完全相同，兩個模型的行為也可能截然不同，這取決於你要求它們最小化的目標函數。

常見損失函數

資料不平衡會使損失函數的計算變得複雜。基於交叉熵訓練的分類器會傾向多數類，除非調整權重。焦點損失和類別加權可以解決這個問題，但需要額外的調優。

Comments (3)

Data scientist September 26, 2026

Custom ones can help for specific problems but the standard ones cover most cases well.
ML engineer September 11, 2026

Measures how far the predictions are from reality. Choosing the right one changes training behavior a lot.
Student Kai August 15, 2026

MSE versus cross-entropy still feels abstract until you see the gradients in action.