主成分分析法简介.docx

: .
主成份分析法（PrincipalComponentAnalysis,PCA）也称主分量分析或矩阵数: .
主成份分析法（PrincipalComponentAnalysis,PCA）也称主分量分析或矩阵数据分析，是统计分析常用的一种重要的方法，在系统评价、质量管理和发展对策等许多方面都有应用。它利用数理统计方法找出系统中的主要因素和各因素之间的相互关系，由于系统地相互关系性，当出现异常情况时或对系统进行分析时，抓住几个主要参数的状态，就能把握系统的全局，这几个参数放映了问题的综合的指标，也就是系统的主要因素。
主成分分析法是一种把系统的多个变量转化为较少的几个综合指标的统计分析方法，因而可将多变量的高维空间转化为低维的综合指标问题，能放映系统信息量最大的综合指标为第一主成分，其次为第二主成分。主成分的个数一般按需放映的全部信息的百分比来决定，几个主成分之间是互不相关的。主成分分析法的主要作用是：发现隐含于系统内部的结构，找出存在于原有各变量之间的内在联系，并简化变量；对变量样本进行分类，根据指标的得分值在指标轴空间进行分类处理。
主成分分析是数学上对数据降维的一种方法。其基本思想是设法将原来众多的具有一定相关性的指标Xi，X2,…，XP（比如p个指标），重新组合成一组较少个数的互不相关的综合指标Fm来代替原来指标。那么综合指标应该如何去提取，使其既能最大程度的反映原变量XP所代表的信息，又能保证新指标之间保持相互无关（信息不重叠）。
设Fi表示原变量的第一个线性组合所形成的主成分指标，即F—aX+aX+...+aX
1111212p1p,
由数学知识可知，每
个主成分所提取的信息量
可用其方差来度量，其方差Var（Fj越大，表示Fi包含的信息越多。常常希望第一主成分F1所含的信息量最大，因此在所有的线性组合中选取的F11应该是Xi，X2,…，Xp的所有线性组合中方差最大的，故称Fi为第一主成分。如果第一主成分不足以代表原来p个指标的信息，再考虑选取第二个主成分指标F2,为有效地反映原信息，Fi已有的信息就不需要再出现在F2中，即F2与Fi要保持独立、不相关，用数学语言表达就是其协方差Cov（F],卩2）=0，所以F?是与Fi不相关的Xi，X2,…，Xp的所有线性组合中方差最大的，故称F2为第二主成分，依此类推构造出的Fi、F2、……、Fm为原变量指标Xi，X2，…，Xp第一、第二、、第m个主成分。
F=aX+aX+…+aX
11111221pp
F=aX+aX+…+aX
V22112222pp
F=aX+aX+…+aX
mm11m22mpp
根据以上分析得知：
(1)Fi与Fj互不相关，即Cov(Fi，Fj)=0
(2)Fi是X1,X2,…，Xp的一切线性组合(系数满足上述要求)中方差最大的，……，即Fm是与F]，F2，……，Fm_i都不相关的X],X2，…，Xp的所有线性组合中方差最大者。Fi，F2,…，Fm(mWp)为构造的新变量指标，即原