主成分分析.ppt

主成分分析主成分分析一项十分著名的工作是美国的统计学家斯通(stone) 在1947 年关于国民经济的研究。他曾利用美国1929 一1938 年各年的数据,得到了 17 个反映国民收入与支出的变量要素,例如雇主补贴、消费资料和生产资料、纯公共支出、净增库存、股息、利息外贸平衡等等。§1 基本思想在进行主成分分析后,竟以 %的精度, 用三新变量就取代了原 17 个变量。根据经济学知识,斯通给这三个新变量分别命名为总收入 F1 、总收入变化率 F2 和经济发展或衰退的趋势 F3 。更有意思的是,这三个变量其实都是可以直接测量的。斯通将他得到的主成分与实际测量的总收入 I 、总收入变化率?I以及时间 t因素做相关分析,得到下表: F1F2F3iit F11F201F3001 - l Δi- - - l t- - - - - 1 主成分分析是把各变量之间互相关联的复杂关系进行简化分析的方法。在社会经济的研究中,为了全面系统的分析和研究问题,必须考虑许多经济指标,这些指标能从不同的侧面反映我们所研究的对象的特征, 但在某种程度上存在信息的重叠,具有一定的相关性。主成分分析试图在力保数据信息丢失最少的原则下,对这种多变量的截面数据表进行最佳综合简化,也就是说,对高维变量空间进行降维处理。很显然,识辨系统在一个低维空间要比在一个高维空间容易得多。(1) 基于相关系数矩阵还是基于协方差矩阵做主成分分析。当分析中所选择的经济变量具有不同的量纲,变量水平差异很大,应该选择基于相关系数矩阵的主成分分析。在力求数据信息丢失最少的原则下,对高维的变量空间降维,即研究指标体系的少数几个线性组合, 并且这几个线性组合所构成的综合指标将尽可能多地保留原来指标变异方面的信息。这些综合指标就称为主成分。要讨论的问题是: (2) 选择几个主成分。主成分分析的目的是简化变量,一般情况下主成分的个数应该小于原始变量的个数。关于保留几个主成分,应该权衡主成分个数和保留的信息。(3)如何解释主成分所包含的经济意义。§2 数学模型与几何解释假设我们所讨论的实际问题中,有 p个指标,我们把这 p个指标看作 p个随机变量,记为 X 1, X 2,…,X p,主成分分析就是要把这 p个指标的问题,转变为讨论 p个指标的线性组合的问题,而这些新的指标 F 1,F 2,…,F k(k≤p), 按照保留主要信息量的原则充分反映原指标的信息,并且相互独立。 ppp ppp pp ppXuXuXuF XuXuXuF XuXuXuF????????????????? 2211 2222 112 2 1221 1 11 1 这种由讨论多个指标降为少数几个综合指标的过程在数学上就叫做降维。主成分分析通常的做法是,寻求原指标的线性组合 F i。