第四讲 回归分析3(逐步回归分析).ppt

43( 1)逐步回归分析 Evaluation only. Evaluation only. Created with Client Profile . Created with Client Profile . Copyright 2004-2011 Aspose Pty Ltd. Copyright 2004-2011 Aspose Pty Ltd. 43( 2)最优回归方程的问题?在有 p个自变量的情况下,根据自变量的不同组合可能建立的回归方程众多。这些回归方程的效果有好有坏,而人们希望的是回归效果最好的,即“最优”的回归方程?最优回归方程的要求: –回归效果最佳–自变量的个数最少?一方面对因变量起显著作用的自变量都选进回归方程,另一方面对因变量作用不显著的自变量都剔除回归方程,选择一个最佳的变量组合 Evaluation only. Evaluation only. Created with Client Profile . Created with Client Profile . Copyright 2004-2011 Aspose Pty Ltd. Copyright 2004-2011 Aspose Pty Ltd. 43( 3)选择最优回归方程的方法 ,选择一个最优的回归方程。这种方法一定能选出一个最优组合,但工作量特别大 –基本步骤: ?从包含全部 p个自变量组合的回归方程中逐个检验回归系数, 剔除对因变量作用不显著的自变量; ?对剔除后剩下的 q个自变量建立对因变量的多元回归方程,再逐个检验回归系数,剔除不显著的变量; ?重复上述步骤,直到保留在回归方程中自变量的作用都显著为止–缺点:一开始把全部自变量都要引入回归方程,计算量很大,实际上有些不重要的就不必引入 Evaluation only. Evaluation only. Created with Client Profile . Created with Client Profile . Copyright 2004-2011 Aspose Pty Ltd. Copyright 2004-2011 Aspose Pty Ltd. 43( 4) ①基本步骤: 先逐个比较 x l,…,x p 对 y 的回归方程那些是显著的,从显著的方程中挑选 F 值最大的,相应的自变量 x ?就被“引入”方程。无妨设 x ?就是 x 1再逐个比较(x 1,x 2)、(x 1,x 3)、…、(x 1,x p)对y的回归方程,看有没有 F值显著的,此时的 F就是考虑添加 x i之后, x i的回归系数是否显著地不为 0,将显著的 F中最大的 F所相应的变量“引入”方程。无妨设第二次“引入”的自变量是 x 2 再考察以 x 1、x 2为基础,逐个添加 x 3、x 4、…、x p之后的回归方程,是否较 x 1、x 2的方程有显著的改进,有就再“引入”新的自变量……,这样下去,终于到某一步就没有可以再“引入”的自变量了。这时就获得了最后的回归方程 Evaluation only. Evaluation only. Created with Client Profile . Created with Client Profile . Copyright 2004-2011 Aspose Pty Ltd. Copyright 2004-2011 Aspose Pty Ltd. 43( 5) –按照自变量对因变量所起作用的显著程度,从大到小逐个地引入回归方程–当每一变量引入以后,若先前已经引入的变量由于后来变量的引入而使其作用变得不显著时,就及时从回归方程中剔除出去,直到作用显著的变量都引入到回归方程,而作用不显者的变量都剔出回归方程,得到一个最佳的变量组合为止②“逐步引入“法的缺点: 不能反映后来变化的状况,设想 x 1、x 2、x 3引入后,又引入了 x 6,也许 x 3、x 6引入后, x 1的作用就不重要了,应该予以剔除,而“逐步引入”法不能达到这个要求 Evaluat