普通最小二乘法.doc

普通最小二乘法(OLS)普通最小二乘法(OrdinaryLeastSquare,简称OLS),就是应用最多的参数估计方法,也就是从最小二乘原理出发的其她估计方法的基础,就是必须熟练掌握的一种方法。在已经获得样本观测值(i=1,2,…,n)的情况下(见图2、2、1中的散点),假如模型(2、2、1)的参数估计量已经求得到,为与,并且就是最合理的参数估计量,那么直线方程(见图2、2、1中的直线)i=1,2,…,n(2、2、2)应该能够最好地拟合样本数据。其中为被解释变量的估计值,它就是由参数估计量与解释变量的观测值计算得到的。那么,被解释变量的估计值与观测值应该在总体上最为接近,判断的标准就是二者之差的平方与最小。(2、2、3)为什么用平方与?因为二者之差可正可负,简单求与可能将很大的误差抵消掉,只有平方与才能反映二者在总体上的接近程度。这就就是最小二乘原则。那么,就可以从最小二乘原则与样本观测值出发,求得参数估计量。由于就是、的二次函数并且非负,所以其极小值总就是存在的。根据罗彼塔法则,当Q对、的一阶偏导数为0时,Q达到最小。即(2、2、4)容易推得特征方程:解得:(2、2、5)所以有:(2、2、6)于就是得到了符合最小二乘原则的参数估计量。为减少计算工作量,许多教科书介绍了采用样本值的离差形式的参数估计量的计算公式。由于现在计量经济学计算机软件被普遍采用,计算工作量已经不就是什么问题。但离差形式的计算公式在其她方面也有应用,故在此写出有关公式,不作详细说明。记(2、2、6)的参数估计量可以写成(2、2、7)至此,完成了模型估计的第一项任务。下面进行模型估计的第二项任务,即求随机误差项方差的估计量。记为第i个样本观测点的