高維度資料難以視覺化、處理速度慢且容易過度擬合。降維技術將特徵壓縮成更小的集合,同時盡可能保留有用的結構。
線性方法(例如主成分分析)將資料投影到最大變異數的方向。非線性方法(例如 t-SNE 和 UMAP)則保留了局部鄰域,這使得它們常用於視覺化聚類結果。
常用技巧
- 主成分分析
- 線性判別分析
- 用於可視化的 t-SNE
- UMAP 用於流形學習
- 用於非線性壓縮的自編碼器
降維總是會損失一些資訊。目標是在保留訊號的同時去除雜訊和冗餘。選擇合適的維度數需要根據經驗判斷,通常以下游性能而非僅考慮重構誤差為依據。
Comments
No comments yet. Be the first to share a thought.
Leave a comment