二元线性回归.docx

第三章多元线性回归模型
基本要求：
1、 理解多元线性回归模型的定义
2、 理解多元线性回归模型的假定
3、 掌握参数估计的计算
4、 理解参数统计性质
第一节 多元线性回归模型及假定
一、多元线性回归模型
许多经济现象往往4+1)X1
人
8
0
人
8
1 人
8
2
为解释变量X的n x (k +1)阶样本观测矩阵；
为未知参数向量8的(k +1)x 1阶估计值列向量。
1- k -1
.二一 一 .一 .
样本回归方程得到的被解释变量估计值Y与实际观测值Y之间的偏差称为残差e。
i i i
(3-8)
e = Y - Y = Y-(B +E X +B + …+E X )
i i i i 0 1 1i 2i ki ki
二、多元线性回归模型的假定
与一元线性回归模型相同，多元线性回归模型利用普通最小二乘法(OLS)对参数进行估计时，有 如下假定：
(3-9)
假定1零均值假定：E(p ) = 0,i = 1,2,…,n，即
E (曲=E
p
J
•
— =
E(叩
E ^)
•
=0
l_p」 n
E (Ll)
E ( p ) n
假定2同方差假定(R的方差为同一常数)：
Var(p ) = E(^2) =b,(i = 1,2,…,n)
i i
假定3无自相关性：
Ca(p, p「= E(pp「= 0,(i 牛 j,i, j = 1,2,…,n)
E(〃 b=E
> -
1
p
2
，…，p)
1 2 n
=E
|L12 1
|Ll |Ll
2 1
|Ll |Ll 1 2
|L12
2
...|Ll |Ll
n
...|Ll |Ll
n
P
|Ll |Ll
|Ll |Ll
• • • |Ll 2
—
n
—
L n 1
n 2
n
E(|H2)
E(|Ll |Ll )...
E(|H Ll )
1
1 2
1 n
—
E(|Ll |Ll
2 1
)E(|H2)…
2
E(|Ll |Ll )
2 n
E(|Ll |Ll ) E(|Ll |Ll ) ... E(|L12)
n 1 n 2 n
c 2 0 …0
(3-10)
0 02 ... 0
. F . = <7 2j
• • • • u n
0 0 …c 2
L
假定4随机误差项R与解释变量X不相关(这个假定自动成立):
Cov(X ,pi ) = 0,(/= 1,2,= 1,2,.../)
ji i
假定5随机误差项R服从均值为零，方差为o2的正态分布:
|Ll 〜JV(0,CT2l )
i |J n
假定6解释变量之间不存在多重共线性：
rank(X) = k + l<n
即各解释变量的样本观测值之间线性无关，解释变量的样本观测值矩阵X的秩为参数个数
k+1,从而保证参数8 ,8,8，…，8的估计值唯一。 0 1 2 k
第二节多元线性回归模型的参数估计及统计性质
一、多元线性回归模型的参数估计
(―)回归参数的最小二乘估计
对于含有*个解释变量的多元线性回归模型
y = P +px +P X +•••+P X +|LI (顷,2,…，n)
i 0 1 Iz 2 2i k ki i
设B ,B，…,B,分别作为参数P ,P 的估计量，得样本回归方程为:
0 1 k 0 1 k
r = p +px +p x x
i 0 1 Iz 2 2i k ki
_一 M
,为:
e = Y - Y = Y-(E +E X +B + …+E X )
, , , , 0 1 1, 2/ k, k,
由最小二乘法可知B , B，…,B应使全部观测值Y与回归值Y的残差e的平方和最小，即使 0 1 k
Q(B ,B ,(3，…，B ) = £e2 =£(Y -Y)2 0 1 2 k i i i
=£(Y- E -Bx -B x — B x)2 (3-ii)
0 1 1i 2 2i k ki
取得最小值。根据多元函数的极值原理
q分别对B,B，…,E求一阶偏导，并令其等于零，即 01 k
BQ ,
-Q = 0,( j = 1,2,-, k)
B3
j
(3-12)
孚=2£ (Y-B -B X 一
BP i 0 1。 2 2i
席 b 一一 一
-Q = 2£(Y -P -P X -P X P X )(