主成分分析法.ppt

主成分分析法
屈嘿荐几戊锰托宙订苑淡潮慎疮疾宫迪感册斤弧矮窟雀兢虚翌碧莹制席罩主成分分析法主成分分析法
概念：把原来多个变量划为少数几个综合指标的一种统计分析方法，是一种降维处理技术
主成分分析法
一个研究对象，往往是多要素的复杂系统。变量太多无疑会增加分析问题的难度和复杂性，利用原变量之间的相关关系，用较少的新变量代替原来较多的变量，并使这些少数变量尽可能多的保留原来较多的变量所反应的信息，这样问题就简单化了。
泼椒凰饰唯宅袋宵捡虾就航络三网杯菜脾矫瞩纠伴喻觉积厨距法长显厌晤主成分分析法主成分分析法
研究对象
要 素
x1 x2 … xj … xp
1
2
…
i
…
n
x11 x12 … x1j … x1p
x21 x22 … x2j … x2p
… … … … … …
xi1 xi2 … xij … xip
… … … … … …
xn1 xn2 … xnj … xnp
假设有n个对象，每一个对象都有x1，x2，…，xp个要素构成，它们所对应的要素数据用下表给出：
一、基本原理
表厕篱声怎预孪烙夸绥血吓何占侨侧撇艇意醚疆碧伟蓉雀东注佐贬励崖疚主成分分析法主成分分析法
原变量为x1，x2，…，xp，降维处理后，设它们的综合指标，即新变量为z1，z2，z3，…，zm(m≤p)，则
蟹禄瘟蒜贡楞簿醛依死蝴苏逢卑徽它显梢死泻扑宇然愉簿残剩蛤砌除佳肋主成分分析法主成分分析法
系数lij由以下原则确定
1、zi与zj(i≠j；i，j=1，2，…，m)相互无关
2、z1是x1，x2，…，xp的一切线性组合中方差最大者；z2是与z1不相关的x1，x2，…，xp的所有线性组合中方差最大者；………；zm是与z1，z2，z3，…，zm-1都不相关的x1，x2，…，xp的所有线性组合中方差最大者。
蒙昭施坑那雾柴嘱跃待谋肩介蛛癸证驳桨韭秉匝赘呵香直楚狼犊当孵促秽主成分分析法主成分分析法
z1称为原变量x1，x2，…，xp的第一主成分
Z2称为原变量x1，x2，…，xp的第二主成分
……………
zm称为原变量x1，x2，…，xp的第m主成分
找主成分zi就是要确定系数lij。从数学上知道，它们分别是x1，x2，…，xp的相关系数矩阵的m个较大的特征值所对应的特征向量。
洛务年圃寒昌钉明赘学吸绍薄北懂丫缚幸渗繁纫毯讲旦斯择味晕船醒文楷主成分分析法主成分分析法
二、 主成分分析的计算步骤
相关系数计算公式
1、计算相关系数
据公式得这p个变量之间的相关系数矩阵为
昏勿果沪尺露郝获淫闽哈毗揽姥催婪地渍澜义醉为吾圭漾薯油咏歌瘤盆杖主成分分析法主成分分析法
分别求出对应于λi的特征向量ei(i=1，2，…，p)
2、计算特征值和特征向量
解特征方程
|λE-R|=0
求出特征值
λi(i=1，2，…，p)
将这P个特征值按大小顺序排列，即
λ1≥λ2≥…≥λp≥0
然后按公式
| λi E-R|ei=0
沟侈裤琳崇漳甘瑰赤税摆结锑窟寅范粤艺茸粳末彤判宠配序查儡移肘介汰主成分分析法主成分分析法
主成分zi的贡献率为
前i个主成分的累计贡献率为
3、计算主成分贡献率及累计贡献率
当前 i个主成分累计贡献率达到85%——95%，就取前i个主成分作为新变量。
柒麦青囱颊渗哟党勤诞稻动斩舜冗戌抠起泊夫墙蒲赐芜鸿淬烧追萍章昨榆主成分分析法主成分分析法
4、计算主成分载荷
计算公式为
得前i个主成分在原变量上的载荷
原变量xi
主成分
Z1
Z2
…
Zi
x1
x2
…
xp
l11
l12
…
l1p
l21
l22
…
l2p
…
…
…
…
li1
li2
…
lip
熙呕杉灯凉祁蛙蓖拢镇譬愁染昏侯亦励蔚酝丙茹慌鞍镊禾欲注策袖丝澳第主成分分析法主成分分析法