《多重线性回归分析》.ppt

第十一章
多重线性回归分析
内 容
基本原理
方法简介
分析步骤
几点补充
精选ppt
2
一、方法简介
分析目的与方法选择
研究一个因变量与一个自变量间的线性关系时
归模型的系数不全为0。
精选ppt
15
三、分析步骤
2. 具体步骤
参数检验
回归方程有统计学意义，可以说明整体上自变量对Y 有影响，但并不意味着每个自变量对因变量的影响都有统计学意义。
考察各个自变量对因变量的影响，即检验其系数是否为0。
若某自变量对因变量的影响无统计学意义，可将其从模型中删除，重新建立回归方程。
精选ppt
16
三、分析步骤
对自变量Xi的系数是否为0进行假设检验，步骤为：
第一步，建立检验假设。
H0：bi=0
H1: bi≠0
精选ppt
17
三、分析步骤
第二步，计算检验统计量。
第三步，确定P值。
根据自由度和临界水平，查t分布表，可得双侧界值为ta/2(n-k-1)。
若t > ta/2(n-k-1)或t <- ta/2(n-k-1)，则P<a。此时，拒绝H0，接受H1，认为该回归系数不等于0。反之，则接受H0，认为该回归系数为0。
精选ppt
18
三、分析步骤
2. 具体步骤
变量筛选
不是所有的自变量都对因变量的作用都有统计学意义。
故需要找到一个较好的回归方程，使之满足：方程内的自变量对回归都有统计学意义，方程外的自变量对回归都无统计学意义。
精选ppt
19
三、分析步骤
这就是自变量的选择问题，或称为变量筛选。选择时，
一要尽可能地不漏掉重要的自变量；
二要尽可能地减少自变量的个数，保持模型的精简。
就回归方程而言，每个变量均有两种可能性，即被选择或被踢除。所以，所有可能的模型有2k个(k为自变量个数)。
自变量个数较多时，计算量过大。此时，需要一定的变量筛选方法。
精选ppt
20
全局择优法
变量筛选
逐步选择法
校正决定系数R2选择法
Cp选择法
前进法
后退法
逐步回归法
c
精选ppt
三、分析步骤
前进法(FORWARD)
回归方程中变量从无到有依次选择一个自变量进入回归方程，并根据该变量在回归方程中的Ⅱ型离差平方和(SS2)计算F统计量及P值。
当P小于sle (规定的选变量进入方程的临界水平)则该变量入选，否则不能入选。
精选ppt
22
三、分析步骤
当回归方程中变量少时某变量不符合入选标准，但随着回归方程中变量逐次增多时,该变量就可能符合入选标准；这样直到没有变量可入选为止。
具体而言，是从仅含常数项(即截距项)的最简单模型开始，逐步在模型中添加自变量。
精选ppt
23
三、分析步骤
局限性：
sle取值小时，可能没有一个变量能入选；
sle取值大时，开始选入的变量后来在新条件下不再进行检验，因而不能剔除后来变得无统计学意义的变量。
精选ppt
24
三、分析步骤
后退法(BACKWARD)
从模型中包含全部自变量开始，计算留在回归方程中的各个自变量所产生的F统计量和P值，当P值小于sls(规定的从方程中踢除变量的临界水准)则将此变量保留在方程中。
否则，从最大的P值所对应的自变量开始逐一踢除，直到回归方程中没有变量可以被踢除时为止。
精选ppt
25
三、分析步骤
局限性：
sls大时，任何一个自变量都不能被踢除；
sls小时，开始被踢除的自变量后来在新条件下即使变得对因变量有较大的贡献了，也不能再次被选入回归方程并参与检验。
精选ppt
26
三、分析步骤
逐步回归法(STEPWISE)
此法是前进法和后退法的结合。
回归方程中的变量从无到有像前进法那样，根据F统计量和P值大小按sle水平决定该自变量是否入选。
精选ppt
27
三、分析步骤
当回归方程选入自变量后，又像后退法那样，根据F统计量和P值按sls水平踢除