一元线性回归.doc

第六讲一元线性回归在客观世界中,、表达和分析这些关系。而变量之间关系,,,人的身高和体重的关系、人的血压和年龄的关系、某产品的广告投入与销售额间的关系等,它们之间是有关联的,但是它们之间的关系又不能用普通函数来表示。我们称这类非确定性关系为相关关系。具有相关关系的变量虽然不具有确定的函数关系,但是可以借助函数关系来表示它们之间的统计规律,这种近似地表示它们之间的相关关系的函数被称为回归函数。回归分析是研究两个或两个以上变量相关关系的一种重要的统计方法。在实际中最简单的情形是由两个变量组成的关系。考虑用下列模型表示)(xfY?.但是,由于两个变量之间不存在确定的函数关系,因此必须把随机波动考虑进去,故引入模型如下???)(xfY其中Y是随机变量,x是普通变量,?是随机变量(称为随机误差)。回归分析就是根据已得的试验结果以及以往的经验来建立统计模型,并研究变量间的相关关系,建立起变量之间关系的近似表达式,即经验公式,并由此对相应的变量进行预测和控制等。本节主要介绍一元线性回归模型估计、检验以及相应的预测和控制等问题。一、:89857874706661545145%/190180170160150140130120110100/iiyCx温度温度?、一元线性回归模型一般地,当随机变量Y与普通变量x之间有线性关系时,可设??????xY10,(1)),,0(~2??N其中10,??为待定系数。设),(,),,(),,(2211nnYxYxYx?是取自总体),(Yx的一组样本,而),(,),,(),,(2211nnyxyxyx?是该样本的观察值,在样本和它的观察值中的nxxx,,,21?是取定的不完全相同的数值,而样本中的nYYY,,,21?在试验前为随机变量,在试验或观测后是具体的数值,一次抽样的结果可以取得n对数据),(,),,(),,(2211nnyxyxyx?,则有iiixy??????10,ni,,2,1??(2)其中n???,,,21?相互独立。在线性模型中,由假设知),(~210???,xNY?xYE10)(????(3)回归分析就是根据样本观察值寻求10,??的估计10?,???.对于给定x值,取xY10???????(4)作为xYE10)(????的估计,方程(4)称为Y关于x的线性回归方程或经验公式,其图像称为回归直线,1??、最小二乘估计对样本的一组观察值),,(11yx),,(22yx…,),,(nnyx对每个ix,由线性回归方程(4)可以确定一回归值iixy10???????,这个回归值y?与实际观察值iy之差iiiixyyy10?????????刻画了iy与回归直线xy10???????:对所有ix,若iy与iy?的偏离越小,?????nIiixyQ1210)(),(????上式表示所有观察值iy与回归直线iy?的偏离平方和,刻划了所有观察值与回归直线的偏离度。所谓最小二乘法就是寻求10??与的估计10????,,使).,(min)?,?(1010????QQ?利用微分的方法,求Q关于10??,的偏导数,并令其为零,得?????????????????????????niiiiniiixxyQxyQ110111000)(20)(2??????整理得?????????????????????????????????????????????iniiniiniiniiniiyxxxyxn1112011110????,称此为正规方程组,解正规方程组得????????????????????????????????niiniiixnxxynyxxy1221110??????(5)其中???niixnx11,???niiyny11,若记yxnyxyyxxLniiiiniidefxy?????????11)()(,????????niiniidefxxxnxxxL12212)(,则????????xxxyLLxy110???????)6()5(或)6(叫做10,?????????、最小二乘估计的性质定理1若10?,???为10,??的最小二乘估计,则10?,???分别是10,??的无偏估计,且???????????????????xxLxnN22001,~????,????????xxLN211,~????)(?五、回归方程的显著性检验前面关于线