机器学习降维领域通用知识

降维的作用是什么?

  • 降维可以缓解维度灾难问题
  • 降维可以在压缩数据的同时让信息损失最小化
  • 理解几百个维度的数据结构很困难,两三个维度的数据通过可视化更容易理解

常见的降维方式有那些?

  • PCA:无监督的降维 (无类别信息),选择方差大的方向投影,方差越大所含的信息量越大,信息损失越少。可用于特征提取和特征选择
  • LDA:有监督的降维 (有类别信息),选择投影后的类别内的方差小,类别间的方差较大

PCA 和 LDA 的异同?