回归分析方法.ppt

回归分析方法
第一页，讲稿共五十四页哦
§5－1 一元线性回归
一、什么叫回归分析
（一）两种不同类型的变量关系、函数与相关
简单的说，回归分析就是一种处理变量与变量之间关系的数学方法。
例：自由落体运动中，物体下落的举例S第三十一页，讲稿共五十四页哦
40
30
20
10
y
x
10 20 30 40 50 60 70 80 90 100 110 120
第三十二页，讲稿共五十四页哦
第三十三页，讲稿共五十四页哦
序号
1
2
3
4
5
6
7
8
9
10
11
5
5
10
20
30
40
50
60
65
90
120
495
4
6
8
13
16
17
19
25
25
29
46
208
25
25
100
400
900
1600
2500
3600
4225
8100
14400
35875
16
36
64
169
256
289
361
625
625
841
2116
5398
20
30
80
260
480
680
950
1500
1625
2610
5520
13755
第三十四页，讲稿共五十四页哦
第三十五页，讲稿共五十四页哦
第三十六页，讲稿共五十四页哦
第三十七页，讲稿共五十四页哦
第三十八页，讲稿共五十四页哦
§5－2 多元回归分析方法
第三十九页，讲稿共五十四页哦
一、多元回归分析概述
上节讨论的只是两个变量的回归问题，其中因变量只与一个自变量相关。但这只是最简单的情况，在大多数的实际问题中，影响因变量的因素不是一个而是多个，我们称这类回问题为多元回归分析。
我们这里着重讨论简单而又最一般的线性回归问题，这是因为许多非线性的情形可以化为线性回归来做。多元线性回归分析的原理与一元线性回归分析完全相同，但在计算上却要复杂得多。不过，应用计算机多元回归的计算量是很小的，一般的计算机都有多元回归（以及逐步回归方法）的专门程序
。
第四十页，讲稿共五十四页哦
第四十一页，讲稿共五十四页哦
第四十二页，讲稿共五十四页哦
第四十三页，讲稿共五十四页哦
第四十四页，讲稿共五十四页哦
第四十五页，讲稿共五十四页哦
第四十六页，讲稿共五十四页哦
第四十七页，讲稿共五十四页哦
多元线性回归方差分析表
第四十八页，讲稿共五十四页哦
4．偏回归平方和与因素主次的差别
前面讲的有关多元线性回归的内容，纯属一元情形的推广，只是形式上复杂一些而已，而偏回归平方和与因素主次的差别则是多元回归问题所特有的。
先从判别因素的主次说起。在实际工作中,我们还关心Y对x1,x2,···xk的线性回归中,哪些因素(即自变量)更重要些,哪些不重要,怎栏来衡量某个特定因素（ｉ＝１，２，…ｋ）的影响呢?我们知道,回归平方和U这个量,刻划了全体自变量x1,x2,···xk对于Y总的线性影响,为了研究xk的作用,可以这样来考虑:从原来的ｋ个自变量中扣除xk ,我们知道这ｋ－１个自变量x1,x2,···xk-1对于Y的总的线性影响也是一个回归平方和,记作U(k)；我们称 Pk=U-U(k)
第四十九页，讲稿共五十四页哦
为x1,x2,···xk中xk的偏回归平方和。这个偏回归平方和也可看作xk产生的作用,类似地,可定义为U(i).
一般地,称
Pi=U-U(i)
为x1,x2,···xk 中ｘi的偏回归平方和。用它来衡量ｘi在Y对x1,x2,···xk的线性回归中的作用的大小。
第五十页，讲稿共五十四页哦
第五十一页，讲稿共五十四页哦
从偏回归平方和的意义可以看出,凡是对Y作用显著的因素一般具有较大的Ｐi值。Ｐi愈大,该因素对Y的作用也就愈大,这样通过比较各个因素的Pｉ值就可以大致看出各个因素对因素变量作用的重要性。在实用上,在计算了偏回归平方和后,对各因素的分析可以按下面步骤进行:
① 凡是偏回归平方和大的,也就是显著性的那些因素,一定是对Y有重要影响的因素。至于偏回归平方和大到什么程度才算显著,要对它作检验,检验的方法与本节中对总回归的检验法类似。
为此,我们要先计算


第五十二页，讲稿共五十四页哦
其中S２即是方差分析计算中的剩余方差,Fｉ自由度为（１，Ｎ－ｋ－１）,于是在给定的显著性水平α，按前面的F检验法,检验该因素的偏回归平