一元线性回归与线性模型定义 线性模型的参数估计.pdf

线性回归分析与线性模型 2
回归分析的基本问题是:如何从表 那样的数据出发找出()式中的函
数 f 使得()中的随机项 e 在某种意义下最小?
函数 f 的可选范围太广了,难以下手。如果预先假定 f 是线性函数:
f (,xx12,LL,xpp)=+b0b1x1++bxp
( 均可知),则模型( )变成
bb01,,L,bp
yb=+01bx1+L+bppx+e
称之为线性回归模型。结合表 的数据可得如下关系式:
yb10=+b1x11+b2x12+L+bppx1+e1
yb20=+b1x21+b2x22+L+bppx2+e2

MM M
ybnn=+01bx1+b2xn2+L+bpxnp+en
称之为线性模型
线性回归分析的基本问题就是如何确定使得( )中的在某种
bb01,,L,bp e
意义下最小。
线性函数是极特殊的多元函数,但线性回归分析却是回归分析里最重要的组
成部分。这是为什么呢?原因有二:①线性回归模型在数学上有成熟的处理方法,
线性代数的工具可以发挥其强大的威力,这一点在本章中将充分表现出来。②实
际当中不仅是经常遇到线性回归模型,而且许多非线性回归模型经过适当的变换
可以化为线性回归模型。这一点现作如下解释。
例 在彩色显影中,根据以往的经验,染料光学密度 y 与析出银的光学密
度 x 之间有下面类型的关系
yA≈>e−∞B / (0B )
1
其中 A,B 未知。这里 y 与 x 之间不是线性关系,但令 yy*l= n,x*= ,则
x
yA*l≈−n Bx*
即 y *与 x*有近似的线性关系。
一般地,一元多项式回归模型常可化为多元线性回归模型,如设
p
yb=+01bx1+L+bp x+e