多元线性回归回归.ppt

关于多元线性回归回归
第1页，讲稿共88张，创作于星期日
*
概念
多因素分析是同时对观察对象的两个或两个以上的变量进行分析。
常用的统计分析方法有：
多元线性回归、Logistic回归、COX比例风险回归模型、

2





3





…
…
…
…
…
…
26





27





第10页，讲稿共88张，创作于星期日
*
由上表得到如下多元线性回归方程：
1、建立回归方程
第11页，讲稿共88张，创作于星期日
*
2、回归方程的假设检验——F检验
结果无显著性
1）表明所观察的自变量与应变量不存在线性回归关系；
2）也可能由于样本例数过少；
结果有显著性
表明至少有一个自变量与应变量之间存在线性回归关系。
H0：β1=β2=…=βm= 0
H1：β1、β2、…βm不等于0或不全等于0
第12页，讲稿共88张，创作于星期日
*
第13页，讲稿共88张，创作于星期日
*
3、各个偏回归系数的假设检验——t检验
将总胆固醇(X1) 剔除。
注意：通常每次只剔除关系最弱的一个因素。
对于同一资料，不同自变量的t值可以相互比较，t的绝对值越大，或P越小，说明该自变量对Y所起的作用越大。
第14页，讲稿共88张，创作于星期日
*
重新建立不包含提出因素的回归方程
注意：表中偏回归系数已变化。
第15页，讲稿共88张，创作于星期日
*
对新建立的回归方程进行检验
检验结果有显著性意义。
第16页，讲稿共88张，创作于星期日
*
对新方程的偏回归系数进行检验
检验结果均有意义，因此回归方程保留甘油三酯(X2)、胰岛素(X3)和糖化血红蛋白(X4)三个因素。
最后获得回归方程为：
第17页，讲稿共88张，创作于星期日
*
1、确定系数（R2）：
意义：在y的总变异中，由x变量组建立的线性回归方程所能解释的比例。 0~1，越大越优。
特点：R2是随自变量的增加而增大。
因此，在相近的情况下，以包含的自变量少者为优。
（三）回归方程的评价
２、R——复相关系数（multiple correlation coefficient）
表示m个自变量共同对应变量线性相关的密切程
度。0≤R≤1。即Y与 的相关系数。
第18页，讲稿共88张，创作于星期日
*
３、校正确定系数（adjusted R-square，R2a ）
越大越优。 R2a不会随无意义的自变量增加而增大。
是衡量方程优劣的常用指标。
校正确定系数的计算：
p 为方程中包含的自变量个数，p≤ m。
R2一定时， p ↑→ R2 a↓
第19页，讲稿共88张，创作于星期日
*
第20页，讲稿共88张，创作于星期日
*
（四）自变量的筛选
基本思路：尽可能将回归效果显著的自变量选入方程中，作用不显著的自变量排除在外。
（1）全局择优法（all possible subsets selection）：
（2）逐步选择法
前进法（Forward selection）
后退法（Backward elimination）
逐步法（Stepwise）
第21页，讲稿共88张，创作于星期日
*
1、全局择优法（最优子集回归）
（all possible subsets selection）：
有m个自变量就有2m-1个自变量子集。在各子集中选择最优的回归方程。
仅适用于自变量个数不太多的情况。
第22页，讲稿共88张，创作于星期日
*
2、向前筛选法（Forward selection）：
事先给定一个入选标准，即（通常 =），然后根据各因素偏回归平方和从大到小，依次逐个引入回归方程至无显著性自变量可以入选为止，因素一旦入选便始终保留在方程中而不被剔除。
局限性：后续变量的引入可能会使先进入方程的变量变得不重要。
第23页，讲稿共88张，创作于星期日
*
3、向后剔除法（Backward elimination）
首先建立全部自变量的全回归方程，给定剔除标准，根据各因素偏回归平方和从小到大，依次逐个将无显著性的自变量从回归方程中剔除。
优点：考虑到了自变量的组合作用，选中的