方差分析及回归分析.docx

第九章回归分析
教学要求1．一元线性回归及线性相关显著性的检验法，利用线性回归方程进行预测。2．可线性化的非线性回归问题及简单的多元线性回归。
■本章重点：理解线性模型，回归模型的概念，掌握线性模型中参数估计的最小二乘法估计法。
■
强度y

(Mpa)
拉伸倍数X
131415161718192021222324

强度y

(Mpa)
将观察值（x，y），i=1,
ii
,24在平面直角坐标系下用点标出，所得的图称为
散点图。从本例的散点图看出，强度y与拉伸倍数x之间大致呈现线性相关关系,
一元线性回归模型是适用y与x的。现用公式（）求b，这里n=24
工x=,工x2=,
i
工y==,i
工xy=
ii
L=-—=
xx24
L=-—=
xy24
L=-—=
yy24
八L
b=―==y—bx=
L
xx
由此得强度y与拉伸倍数X之间的经验公式为y=+
三、最小二乘估计a,b的基本性质
（）中，a、b的最小二乘估计a,b满足:
⑴Ea=a
Eb=b
(2)
(3)
d3)=(-+})c2，
nL
xx
x
cov(a,b)=-——c2
L
入1
D(b)=——c2
L
xx
证：(1)注意到对任意i=1,2,
Ey=a+bx,
i
,n有
Ey=a+bx,
Dy=b2,
i
E(y-y)=Ey-Ey=b(x-x)2
iii
于是Eb=
1
Lxx
b工(x-x)2
丫i
E厶(x-x)(y-y)=+■=b
iiLxx
i=1
——八一一
Ea=Ey-xEb=a+bx-bx=a
⑵利用£(x-x)=o，将a、b表示为：
i
i=1
b=亠工(x—x)(y—y)=丄工(x—x)yLxxiiLxxii
i=1_j=1
1、p^£「1(x.-x)x
a=y.-xb=[-.]y.
ninLxxi
由于y,y,,y相互独立，有
12n
八1—c2
D(b)=乙(x-x)2c2=

D(a)=为書1-(xi-x)x]2c2
nLxx
L1+£(xi-x)2x2]c2
nL
=(-+—)c2
nL2
cov(a,b)丄A[!-]c2
L2nL22
i=1xx__xx
£Txi-x)2xc=-丄c
L22L2
i=1xxxx
，a、b的最小二乘估计a、b是无偏的，
们又是线性的，因此()所示的最小二乘估计a、b分别是
§
一、02的无偏估计
()
()
从()，()还知道它
a、b的线性无偏估计。
1
由于02是误差s(i=1,,n)的方差，如果£能观测，自然想到用—工£2来估计
iin.
.
6然而£是观测不到的，能观测的是y由Ey.—a+.。ii
用残差y-y来估计£
...
丄工(y—y)2—丄工(y—a—bx)2=-Q(a,b)n..n..n
.—1.—1
来估计Q2，我们希望得到
.—y.(即Ey的估计)，就应因此，想到用
—y)2为®的无偏估计，例如§
无偏估计，为此需求残差平方和Q@,b)的数学期望，[Q(a,b)]-(n—2)b2(学员自验)于是得£2—Q(Nb)—丄工(y
n—2n—2i
i—1E—
£2—0^迦，则E&2—a2。
n—2
•八八
我们称£—：如学为标准误差，它反映回归直线拟合的程度。
n—2
具体计算时可用Q(a,b)
—L—b2L
yyxx
—L(1—
yy
二、预测与控制
1、预测问题
L2
xy—)—L(1—r2)LL