主成分分析(杨).ppt

主成分分析 ponent Analysis 什么是主成分分析?主成分分析是一种把多个指标综合为少数几个指标的统计方法。主成分分析的功能?简化数据,或者叫降维。?揭示变量之间的关系。?进行统计解释。主成分分析的应用例子一项十分著名的工作是美国的统计学家斯通(stone) 在 1947 年关于国民经济的研究。他曾利用美国 1929 一 1938 年各年的数据,得到了 17 个反映国民收入与支出的变量要素,例如雇主补贴、消费资料和生产资料、纯公共支出、净增库存、股息、利息外贸平衡等等。主成分分析的应用例子?在进行主成分分析后,竟以 %的精度,用三新变量就取代了原 17个变量。根据经济学知识,斯通给这三个新变量分别命名为总收入 F1、总收入变化率 F2和经济发展或衰退的趋势 F3。更有意思的是,这三个变量其实都是可以直接测量的。斯通将他得到的主成分与实际测量的总收入 I、总收入变化率以及时间 t因素做相关分析,得到下表: F1F2F3It F11F201F3001 - l - - - l t- - - - - 1 I? I? 1 总体主成分?假设我们所讨论的实际问题中,有 p个指标, 我们把这 p个指标看作 p个随机变量,记为 X 1, X 2,…,X p,它们组成一个随机向量,记为: TpXXXX),..., ,( 21? PP ijXD ?????)( ),(?其协方差矩阵为向量的协方差矩阵?????????????? pp p p p p?????????... ... ... ... ... ... ... 2 1 2 22 21 1 12 11一般向量的协方差矩阵?设是一个随机向量,若和的协方差存在, 则的协方差矩阵为: TpXXXX),..., ,( 21? iX jX pjiXX ji ,..., 1, ),, cov( ? X????????????????), cov( ...), cov( ), cov( ......... ... ), cov( ...), cov( ), cov( ), cov( ...), cov( ), cov( ] ))( ))( ( [()( 2 1 2 22 12 1 21 11 pp p p p p TXXXXXX XXXXXX XXXXXX XEXXEXEXD总体主成分的定义?考虑这 P个随机变量的特殊的线性组合: ppp p pp pp ppXaXaXaZ XaXaXaZ XaXaXaZ????????????????? 2211 2 222 112 2 1 221 1 11 1