回归分析部分.ppt

多元统计课程设计之回归分析
1
线性回归模型
一元线性回归模型
多元线性回归模型
p=1时，先做散点图；
p=2时，回归平面；
p=3时，回归超平面，几何图形无法表示
2
回归模型的基本假设
1. 解释变量y为随机变量，而解释变量
为非随机变量，观测值 是常数。
2. Gauss-Markov条件(等方差及不相关假定条件)
3
回归模型的基本假设
3. 正态分布假设
即
4. 通常为了便于数学上的处理，还要求n >p，即样本容量的个数要多于解释变量的个数。
4
对线性回归模型通常要研究的问题
1. 如何根据样本求出参数 及方差
估计；
2. 对回归方程及回归系数的种种假设进行检验；
3. 如何根据回归方程进行预测和控制，以及如何进行实际问题的结构分析。
5
正态假设下， 参数的最小二乘估计（OSLE）
与极大似然估计（MLE）一致，即若线性回归
模型为 ，其中
则有 ，可得
6
若称 为 的残差。则误差
项方差 的无偏估计为
7
回归分析步骤
step1：确定模型变量；
step2：收集、整理统计数据；
step3：确定理论回归模型的数学形式；
step4：模型参数估计；
step5：模型检验；
step6：模型改进；
step7：回归模型的运用。
8
确定模型变量
首先要根据所研究问题的目的设置因变量
y，然后再选取与y有统计关系的一些变量作为
自变量。
对一个具体的经济问题，当研究目的确定
之后，被解释变量容易确定，被解释变量一般
直接表达、刻画研究的目的。
而对被解释变量有影响的解释变量往往不
容易被确定。
9
一是由于认识有局限性，我们不可能完全
了解对被解释变量有重要影响的全部因素。
二是为了模型参数估计的有效性，设置的
解释变量之间应该是不相关的。
三是我们从经济关系角度考虑非常重要的
变量应该引进， 但在实际中并没有这样的统计
数据。 这一点在我国建立经济模型时经常会遇
到。这时可以考虑用相近的变量代替，或者由
其他几个指标复合成一个新的指标。
10