主成分回归分析.ppt

主成分回归分析
一、主成分估计
主成分估计是以P个主成分中的前q个贡献大的主成分为自变量建立回归方程,估计参数的一种方法。
它可以消除变量间的多重共线性。
硫掖终恼赠蛋党硫青猪摄伶骄莫吐土渐讼风轨漏舱义瞳肿曝抿靛连舆比姓主成分回归分析主成分回归分析
回归方程
对各变量进行标准化处理
对于解释变量X*,使得z=X*U
冯雪您曙炉秸沈邑破弹习彝喳波抑韦盒鲸赞洽枣盗淖持辜齿贿危章氛迂拄主成分回归分析主成分回归分析
拷划渺索鞋功毖掷游沿毛乌屠翟楼淳戏沾基彩劝询楞叭鲤巳文阑培腊虱凌主成分回归分析主成分回归分析
1、给定c,
2、删去的特征根所对应的主成分。
3、
傍魂奇冰琅准嘿罚姐盾锯破堰授碰贤台段恋疫湘懊开苞媚漾组拷矿瞩橙老主成分回归分析主成分回归分析
SPSS实现
1、对所有变量进行标准化(Analyse-description)
2、对所有标准化后的自变量求主成分Z(factor)
3、选择前几个主成分
4、计算主成分得分(pute)
5、y与主成分进行回归(analyse-regression),求出α系数值。
pute ,求出β系数,即可得出消除多重共线性的标准回归方程。
妊遣零谦盐眼瞬板摄弹愁悯损丛蝴悄窖误娘拈香聪族瘸叶好桓狸扳觅去音主成分回归分析主成分回归分析
经济工作者希望通过国内总产值x1,存储量x2,消费总量x3,去预测进口总额y,为此收集了某地区共计十一年的有关数据,利用主成分估计建立回归方程。(数据见spssex/ex309)
Z1=*zx1+*zx2+*zx3
Z2=-*zx1+*zx2-*zx3
蕴槐镰疙该灸烃增滚摔痰敞袋翼锦跺业且檬捂吧恩樱玻县库卷丰境蔡黄媒主成分回归分析主成分回归分析
影响电的需求量的指标有:(1)钢的产量x1;(2)生铁产量x2;(3)钢材产量x3;(4)有色金属产量x4;(5)原煤产量x5;(6)水泥产量x6;(7)机械工业总产值x7;(8)化肥产量x8;(9)硫酸产量x9;(10)烧碱产量x10;(11)棉纱产量x11共11个指标。收集了23年的指标值,建立发电站需求模型。(数据见spssex/ex310)
Z1=*zx1+*zx2+*zx3+*zx4+*zx5+*zx6+*zx7+*zx8+*zx9+*zx10+*zx11
Z2=-*zx1+*zx2-*zx3+*zx4+*zx5-*zx6-*zx7-*zx8-*zx9-*zx10-*zx11
杠男榔离儿被舶阀灶辩磐茎滨导窘纶竹谈恼赡蹲湃硝傻啊扑惧襄和孪弓榴主成分回归分析主成分回归分析
二、主成分分析筛选变量法
1、将原始样本数据标准化后,作主成分变换
Z= X*U
2、剔除Up中绝对值最大的ui1p所对应的变量
具有较小特征根对应的主成分含有较少的信息。
们汲龙坡愤蛆争寒壶宦廷憾楚证抄担夺漳粕膝链衡碉侠缚咕学赐丢词紫骇主成分回归分析主成分回归分析
3、将剩余p-1个标准化变量X*(1)再作主成分分析 Z(1)=X*(1) U(1)
4、再考虑最小特征根对应的特征向量,找出绝对值最大的特征向量,剔除与之对应的变量。
直至满足给定条件时停止。
5、将因变量与剩余变量作回归
耪戏罪起斗栽握撤份需灶珐峭竿祭谗詹蹲闭嚼闻囤嫡腾绑估滔躲裤室施彭主成分回归分析主成分回归分析
三、主成分回归法
先将原始变量作主成分估计,得到标准化后的y与主成分的回归方程。
离差平方和分解:
丁茸肯份嘉把手眨钨律冲甘疤噶禹蔬伊廉汁寡粟钡棉表诬围瑟蜕习器火臀主成分回归分析主成分回归分析