回归分析部分.ppt

多元统计课程设计之回归分析长春工业大学 1线性回归模型一元线性回归模型多元线性回归模型 p=1 时,先做散点图; p=2 时,回归平面; p=3 时,回归超平面,几何图形无法表示 0 1 y x ? ??? ?? 0 1 1 2 2 p p y x x x ? ????? ??????2回归模型的基本假设 1. 解释变量 y为随机变量,而解释变量为非随机变量,观测值是常数。 2. Gauss-Markov 条件(等方差及不相关假定条件) 1 2 , , , p x x x ? 1 2 , , , i i ip x x x ? 2 ( ) 0, 1, 2, , , cov( , ) ( , 1, 2, , ) 0, i i j E i n i j i j n i j ??? ?? ??????? ???????? 3回归模型的基本假设 3. 正态分布假设即 4. 通常为了便于数学上的处理,还要求 n >p ,即样本容量的个数要多于解释变量的个数。 2 1 2 (0, ), 1, 2, , , , , in N i n ? ?? ? ???????相互独立 2 (0, ) n N I ? ? 4对线性回归模型通常要研究的问题 1. 如何根据样本求出参数及方差估计; 2. 对回归方程及回归系数的种种假设进行检验; ,以及如何进行实际问题的结构分析。 0 1 , , , p ? ? ?? 2?5 正态假设下, 参数的最小二乘估计( OSLE ) 与极大似然估计( MLE )一致,即若线性回归模型为,其中则有,可得 y X ? ?? ? 12nyyyy ? ?? ?? ??? ?? ?? ?? 11 1 21 2 1111 pp n np x x x x X x x ? ?? ?? ??? ?? ?? ?? ???? ? ?? 12p????? ?? ?? ??? ?? ?? ?? ?? 12n????? ?? ?? ??? ?? ?? ?? 1?( ) X X X y ??? ?? 0 1 1 ???? i p p y x x ? ? ?? ???? 6 若称为的残差。则误差项方差的无偏估计为? i i i e y y ? ?( 1, 2, , ) i y i n ?? 2? 2 2 11?1 niie n p ???? ??7回归分析步骤 step1 :确定模型变量; step2 :收集、整理统计数据; step3 :确定理论回归模型的数学形式; step4 :模型参数估计; step5 :模型检验; step6 :模型改进; step7 :回归模型的运用。 8确定模型变量首先要根据所研究问题的目的设置因变量 y,然后再选取与 y有统计关系的一些变量作为自变量。对一个具体的经济问题,当研究目的确定之后,被解释变量容易确定,被解释变量一般直接表达、刻画研究的目的。而对被解释变量有影响的解释变量往往不容易被确定。 9 一是由于认识有局限性,我们不可能完全了解对被解释变量有重要影响的全部因素。二是为了模型参数估计的有效性,设置的解释变量之间应该是不相关的。三是我们从经济关系角度考虑非常重要的变量应该引进, 但在实际中并没有这样的统计数据。这一点在我国建立经济模型时经常会遇到。这时可以考虑用相近的变量代替,或者由其他几个指标复合成一个新的指标。 10