PCA算法

算法步骤: 假设有m条n维数据。 1. 将原始数据按列组成n行m列矩阵X 2. 将X的每一行(代表一个属性字段)进行零均值化,即减去这一行的均值 3. 求出协方差矩阵C=1/mXXT 4. 求出协方差矩阵的特征值以及对应的特征向量 5. 将特征向量按对应特征值大小从上到下按行排列成矩阵,取前k行组成矩阵P 6. Y=PX即为降维到k维后的数据

实例

这里写图片描述 以这个为例,我们用PCA的方法将这组二维数据降到一维 因为这个矩阵的每行已经是零均值,所以我们可以直接求协方差矩阵:

这里写图片描述 然后求其特征值和特征向量,求解后的特征值为: λ1=2,λ2=25 其对应的特征向量分别是: 这里写图片描述

由于对应的特征向量分别是一个通解,c1和c2可取任意实数。那么标准化后的特征向量为:

这里写图片描述 因此我们的矩阵P是: 这里写图片描述 可以验证协方差矩阵C的对角化: 这里写图片描述 最好我们用P的第一行诚意数据矩阵,就得到了降维后的数据表示: 这里写图片描述 降维后的投影结果如下图: 这里写图片描述

PCA本质上是将方差最大的方向作为主要特征,并且在各个正交方向上将数据“离相关”,也就是让它们在不同的正交方向上没有相关性。 因此,PCA也存在一些限制,例如它可以很好地解除线性相关,但是对于高阶相关性就没有办法了。对于存在高阶相关性的数据,可以考虑Kernel PCA,通过Kernel将非线性相关转化为线性相关。另外,PCA假设数据各特征分布在正交方向上,如果在非正交方向上存在几个方差较大的方向,PCA的效果就大打折扣。 PCA是一种无参数技术,也就是说面对同样的数据,如果不考虑清晰,谁来做结果都一样,没有主观参数的介入,所以PCA便于通用实现,但是本身没有个性化的优化。

本文主要参考:http://blog.codinglabs.org/articles/pca-tutorial.html