主成分分析和数据包络分析.ppt

ponentAnalysis(PCA)&DataEnvelopmentAnalysis(DEA)主成分分析和数据包络分析主讲人:孙立成2010年12月29日学习目标PCA和DEA的基本原理PCA和DEA的数学模型用PCA和DEA对实际问题进行综合评价在研究实际问题时,往往需要收集多个变量。但这样会使多个变量间存在较强的相关关系,即这些变量间存在较多的信息重复,直接利用它们进行分析,不但模型复杂,还会因为变量间存在多重共线性而引起较大的误差为能够充分利用数据,通常希望用较少的新变量代替原来较多的旧变量,同时要求这些新变量尽可能反映原变量的信息主成分分析正是解决这类问题的有效方法。它们能够提取信息,使变量简化降维,从而使问题更加简单直观主成分分析(ponentAnalysis&FactorAnalysis)降维思想的几个例子心理学:心理学家瑟斯登对56项测验的得分进行因子分析,得出了7中主要智利因子:词语理解能力,语言流畅能力、计数能力、空间能力、记忆力、知觉速度和推理能力教育学:某师范大学在对以幼儿园3~6岁幼儿为对象,通过80名幼儿教师对480名幼儿好奇心行为特征描述的开放式问卷调查,编制出60个项目的初始问卷,对500名幼儿的初测结果进行探索性因子分析后,形成了33个项目的正式问卷,对1000名幼儿的评价结果进行验证性因子分析,结果表明:教师评价的3~6岁幼儿好奇心结构包括敏感、对未知事物的关注、好问、喜欢摆弄、探索持久和好奇体验6个因子因子分析得到的是什么?医学:一位研究者对山东某县2000~2002年3年的全死因调查资料中不同地区各恶性肿瘤标化死亡率进行因子分析后发现,该县居民恶性肿瘤的发病和死亡具有明显的地区分布。在地区分布中,各种恶性肿瘤的死亡具有一定程度的聚集性。%;10种恶性肿瘤中,被解释的比例最小也在62%以上;而胃癌、白血病、膀胱癌、乳腺癌、结肠癌死亡率被解释的比例均在77%以上,表明这10种恶性肿瘤之间存在中等偏强的内在联系和地区分布特点因子分析得到的是什么?地质学:海南岛的石绿铁矿及外围地区有透辉石透闪岩石和阳起石两种岩石。地质工作者对两种岩石标本的11种化验数据进行了因子分析,分别得到5种和4种主要因子。结果表明,透辉石透闪岩石与阳起石有明显区别,前者的元素组合属碳酸盐沉积型,后者属岩浆分异型。透辉石透闪岩石中铁的沉积与泥质成分有关,属于正常沉积。由此推断石绿铁矿的主要成矿为沉积作用,并据此提出了找矿标志和找矿方向上市公司评价:某研究者选择35家能源类上市公司,根据2007年的12项经营指标数据,采用因子分析法分别按盈利能力、资产管理能力、偿债能力及经营业绩综合评分等方面对35家上市公司进行了排名。其中:盈利能力排在前5位的是:神火股份、海油工程、兰花科创、潞安环能和中国石油;经营业绩综合得分排在前5位的是:神火股份、潞安环能、兰花科创、海油工程和开滦股份主成分的概念由KarlPearson在1901年提出考察多个变量间相关性一种多元统计方法研究如何通过少数几个主成分(ponent)来解释多个变量间的内部结构。即从原始变量中导出少数几个主分量,使它们尽可能多地保留原始变量的信息,且彼此间互不相关主成分分析的目的:数据的压缩;数据的解释常被用来寻找判断事物或现象的综合指标,并对综合指标所包含的信息进行适当的解释什么是主成分分析?(ponentanalysis)对这两个相关变量所携带的信息(在统计上信息往往是指数据的变异)进行浓缩处理假定只有两个变量x1和x2,从散点图可见两个变量存在相关关系,这意味着两个变量提供的信息有重叠主成分分析的基本思想(以两个变量为例)如果把两个变量用一个变量来表示,同时这一个新的变量又尽可能包含原来的两个变量的信息,这就是降维的过程椭圆中有一个长轴和一个短轴,称为主轴。在长轴方向,数据的变化明显较大,而短轴方向变化则较小如果沿着长轴方向设定一个新的坐标系,则新产生的两个变量和原始变量间存在一定的数学换算关系,同时这两个新变量之间彼此不相关,而且长轴变量携带了大部分的数据变化信息,而主成分分析的基本思想(以两个变量为例)短轴变量只携带了一小部分变化的信息(变异)此时,只需要用长轴方向的变量就可以代表原来两个变量的信息。这样也就把原来的两个变量降维成了一个变量。长短轴相差越大,降维也就越合理多维变量的情形类似,只不过是一个高维椭球,无法直观地观察每个变量都有一个坐标轴,所以有几个变量就有几主轴。首先把椭球的各个主轴都找出来,再用代表大多数数据信息的最长的几个轴作为新变量,这样,降维过程也就完成了主成分分析的基本思想(以两个变量为例)找出的这些新变量是原来变量的线性组合,叫做主成分