高次元データは視覚化が難しく、処理に時間がかかり、過学習を起こしやすい。次元削減は、有用な構造をできる限り保持しながら、特徴量をより小さなセットに圧縮する。

主成分分析のような線形手法は、データを最大分散の方向に投影します。t-SNEやUMAPのような非線形手法は、局所的な近傍を保持するため、クラスターの可視化によく用いられます。

一般的なテクニック

• 主成分分析
• 線形判別分析
• 視覚化のためのt-SNE
• 多様体学習のためのUMAP
• 非線形圧縮のためのオートエンコーダ

次元削減は必ず何らかの損失を伴います。目標は、信号を保持しつつノイズと冗長性を除去することです。適切な次元数を選択するには判断が必要であり、多くの場合、再構成誤差だけでなく、下流工程での性能に基づいて決定されます。