spss主成分分析CA.ppt

This template is the internal standard courseware template of the enterprise
spss主成分分析CA
主成分分析
zf
主成分分析的重点
1、重叠所带来的虚假性。二维平面上的个点的方差大部分都归结在Fl轴上，而F2轴上的方差很小。Fl和F2称为原始变量x1和x2的综合变量。F简化了系统结构，抓住了主要矛盾。
zf
*
由此可概括出主成分分析的几何意义：
主成分分析的过程也就是坐标旋转的过程，各主成分表达式就是新坐标系与原坐标系的转换关系，新坐标系中各坐标轴的方向就是原始数据方差最大的方向。
zf
*
了解了主成分分析的基本思想、数学和几何意义后，问题的关键：
1、如何进行主成分分析？（主成分分析的方法）
基于相关系数矩阵还是基于协方差矩阵做主成分分析。当分析中所选择的变量具有不同的量纲，变量水平差异很大，应该选择基于相关系数矩阵的主成分分析。
2、如何确定主成分个数？
主成分分析的目的是简化变量，一般情况下主成分的个数应该小于原始变量的个数。关于保留几个主成分，应该权衡主成分个数和保留的信息。
zf
*
主成分分析的目标：
1、从相关的X1， X2，… Xk,求出相互独立的新综合变量（主成分）Y1,Y2…Yk。
2、X与Y之间的计算关系是：
如何求解主成分？
总体主成分的求解及其性质
zf
*
一、从协方差矩阵出发求解主成分
（一）第一主成分：
设X的协方差阵为
Σx为非负定的对称阵
zf
*
1， 2，…， p为Σx的特征根，不妨假设1 2  … p 。而U恰好是由特征根相对应的特征向量所组成的正交阵。
zf
*
（二） 第二主成分
在约束条件 下，寻找第二主成分
zf
*
例：设　　　　　　　　的协方差矩阵为：
从协方差矩阵出发，求解主成分．
（１）求协方差矩阵的特征根
依据　　　　　　求解．
zf
*
（２）求特征根对应的特征向量
zf
*
（３）主成分：
（４）各主成分的贡献率及累计贡献率：
第一主成分贡献率：
第二主成分贡献率：
第三主成分贡献率：
zf
*
第一和第二主成分的累计贡献率：
　由此可将以前三元的问题降维为两维问题．％．
zf
*
从协方差矩阵出发求解主成分的步骤：
1、求解各观测变量 的协方差矩阵。
2、由X的协方差阵Σx，求出其特征根，即解方程 ，可得特征根 。
3、求解 可得各特征根对应的特征向量U1，U2，…，Up 。
其中最大特征根的特征向量对应第一主成分的系数向量；第二大特征根对应的特征向量是第二大主成分的系数向量·····
zf
*
4、计算累积贡献率，给出恰当的主成分个数。
zf
*
二、由相关矩阵求解主成分
当分析中所选择的变量具有不同的量纲，变量水平差异很大，应该选择基于相关系数矩阵的主成分分析。
量纲对于主成分分析的影响及消除方法——对数据进行标准化处理，以使每一个变量的均值为0，方差为1。
zf
*
数据标准化后,总体的协方差矩阵与总体的相关系数相等.
zf
*
例：企业经济效益综合分析。用5个经济指标进行考核。用相关系数矩阵法求解主成分。其中计算出的相关系数矩阵为：
zf
*
（1）计算其特征值：
（2)各特征值的累计方差贡献率为：
（3）从以上方差贡献率看，k=2时主成分个数较为合适。
对应的特征向量为：
zf
*
（4）建立第一和第二主成分：
zf
*
从相关系数矩阵出发求解主成分的步骤：
1、标准化各观测变量数据。
2、求解标准化各观测变量的相关系数矩阵。
2、根据矩阵知识 求解相关系数矩阵的特征根。
3、求解各特征根对应的特征向量。
其中最大特征根的特征向量对应第一主成分的系数向量；第二大特征根对应的特征向量是第二大主成分的系数向量·····
zf
*
三、主成分性质
1，主成分的协方差阵为对角阵
2、P个随机变量的总方差为协方差矩阵的所有特征根之和

说明主成分分析把P个随机变量的总方差分解成为P个不相关的随机变量的方差之和。
当进行相关系数矩阵求解主成分，各变量标准化后，则p个主成分总的方差之和等于p。
zf
*
样本主成