线性回归分析教案.doc

线性回归分析教案
线性回归分析教案
1/19
线性回归分析教案
线性回归分析
管理中经常要研究变量与变量之间的关系，并据以做出决策。前面介绍的检验可以确定两个变量Y对X的回归方程。依据这一方程在直角坐标系中所作的直线就称为回归直线。
线性回归分析教案
线性回归分析教案
2/19
线性回归分析教案
二、模型参数的估计和估计平均误差
1、回归参数的估计
线性回归分析教案
线性回归分析教案
3/19
线性回归分析教案
回归模型中的参数

a与b在一般情况下都是未知数，

必须根据样本数据

(xi，yi)来估计。确定参数

a与b
线性回归分析教案
线性回归分析教案
19/19
线性回归分析教案
值的原则是要使得样本的回归直线同观察值的拟合状态最好，即要使得偏差最小。为此，可以采用“最小二乘法”的办法来解决。
对应于每一个
xi
，根据回归直线方程(7-1)可以求出一个yi，它就是yi的一个估计值。估计值和观察值之
间的偏差ei
yi
yi
。有n个观察值就有相应的
n个偏差。要使模型的拟合状态最好，就是说要使
n个偏
差的总和最小。但为了计算方便起见，我们以误差的平方和最小为标准来确定回归模型。这就要求
n
2
n
2
Q
yi
y
yi
a
bxi
i1
i
1
是个极小值。
根据微积分中的极值定理，要使上式取极值，其对
a与b所求的偏导数应为0，即
Q
2
yi
a
bxi
0
a
Q
2
yi
a
bxi
xi
0
b
经整理后可得：
yi
na
b
xi
xiyi
a
xi
bxi2
解上式，可得：
xiyi
1
xi
yi
b
n
1
xi2
xi
2
n
a
yi
b
xi
n
n
记X
xi
n,
Y
yin
。
线性回归分析教案
线性回归分析教案
19/19
线性回归分析教案
SXX
xi
2
xi2
1
2
x
xi
n
SXY
xi
xyi
xiyi
1
yi
y
xi
n
SYY
yi
2
yi2
1
2
y
yi
n
于是，得到参数a与b的简单表达形式如下：
SXYSXX
aybx
求出参数a与b以后，就可以得到回归模型
yabx
由此，只要给定了一个xi值，就可以根据回归模型求得一个yi来作为实际值yi的预测值。
2、估计平均误差的计算
对于给定的xi，根据回归模型就可以求出yi的预测值。但是用yi来预测y的精度如何，产生的误差有
多大是统计上所关心的。统计上用估计平均误差这个指标来度量回归方程的可靠性，对回归方程进行评价。估计平均误差可以用第一章中所述的度量一组观察值的离差的方法来度量。但是这次估计平均误差是根据观察值与回归直线的偏离来计算的。一个回归模型的估计平均误差或剩余标准离差由下式定义：
线性回归分析教案
线性回归分析教案
6/19
线性回归分析教案
Se

1

n
2
yiyi
线性回归分析教案
线性回归分析教案
19/19
线性回归分析教案
n2

i1
线性回归分析教案
线性回归分析教案
19/19
线性回归分析教案
值得注意的是上式中分母是用n2而不是n1或n去除，这是因为n个观察值的数据点用于计算参
数a与b时失去了2个自由度，还余下n2个自由度。
运用估计平均误差可以对回归方程的预测结果进行区间估计。若观察值围绕回归直线服从正态