回归分析概要(多元线性回归模型).pdf

第二章 回归分析概要
第五节 多元线性回归分析

一 模型的建立与假定条件

在一元线性回归模型中，我们只讨论了包含一个解释变量的一元线性回归模型，也就是
   21 2 j 2k     u 
3 2 3
...  1 x ...x ...x  ...  ... 
   31 3 j 3k     
y      u 
 T  1 x ...x ...x  k   T 
(T 1)  T 1 Tj Tk  (k1) (T1)
(Tk)

可以简化为：
Y  X  u --总体回归模型的简化形式。

2. 假定条件

与一元线性回归模型的基本假定相似，为保证得到最优估计量，多元线性回归模型应满
足以下假定条件：
假定 1 随机误差项 u 满足均值为零，其方差 2 相同且为有限值。
t
假定 2 随机误差项之间相互独立，无自相关。
假定 3 解释变量 x ， j 1,2,3,...,k 之间线性无关，即解释变量的样本观测值矩阵式满秩矩
tj
阵，否则称解释变量之间存在多重共线性（与课本假定 7 合并）。
假定 4 解释变量 x ， j 1,2,3,...,k 是确定性变量，与误差项彼此之间相互独立。
tj
假定 5 解释变量是非随机变量，且当T  时， T 1 X X  Q ，Q 是一个有限值的非奇异
矩阵。
假定 6 随机误差项服从正态分布。
假定 7 回归模型是正确设计的。

二、最小二乘法
根据最小二乘法的原则，总体回归模型可以推导为样本回归模型，即：
Y  Xˆ  uˆ
其中， ˆ  (ˆ ˆ ...ˆ ) 是  的估计值列向量， uˆ  (Y  Xˆ) 称为残差列向量。
0 1 k
因为， uˆ  Y  Xˆ ，所以，uˆ 也是 Y 的线性组合。
关于多元线性回归模型中样本容量的问题：
（1）最小样本容量
在多元线性回归模型中，样本容量必须不少于模型中解释变量的数目（包括常数项），这就
是最小样本容量，即： n  k 1。
（2）满足基本要求的样本容量
一般经验认为，当 n  30 或者至少 n  3(k 1) 时，才能说满足模型估计的基本要