• 11.3 主成分分析(PCA)

    11.3 主成分分析(PCA)

    不同于MDS采用距离保持的方法,主成分分析(PCA)直接通过一个线性变换,将原始空间中的样本投影到新的低维空间中。简单来理解这一过程便是:PCA采用一组新的基来表示样本点,其中每一个基向量都是原来基向量的线性组合,通过使用尽可能少的新基向量来表出样本,从而达到降维的目的。

    假设使用d’个新基向量来表示原来样本,实质上是将样本投影到一个由d’个基向量确定的一个超平面上(即舍弃了一些维度),要用一个超平面对空间中所有高维样本进行恰当的表达,最理想的情形是:若这些样本点都能在超平面上表出且这些表出在超平面上都能够很好地分散开来。但是一般使用较原空间低一些维度的超平面来做到这两点十分不容易,因此我们退一步海阔天空,要求这个超平面应具有如下两个性质:

    最近重构性:样本点到超平面的距离足够近,即尽可能在超平面附近;最大可分性:样本点在超平面上的投影尽可能地分散开来,即投影后的坐标具有区分性。

    这里十分神奇的是:最近重构性与最大可分性虽然从不同的出发点来定义优化问题中的目标函数,但最终这两种特性得到了完全相同的优化问题

    7.png

    接着使用拉格朗日乘子法求解上面的优化问题,得到:

    8.png

    因此只需对协方差矩阵进行特征值分解即可求解出W,PCA算法的整个流程如下图所示:

    9.png

    另一篇博客给出更通俗更详细的理解:主成分分析解析(基于最大方差理论)