多元回归拟合算法 (1)综述.ppt

电化学甲醛检测仪浓度预测算法: 多元回归拟合算法汇报人:孙皓目录 123 多元回归分析简介多元回归分析步骤逐步回归用于甲醛浓度预测多元回归分析回归分析: 是一种通过一组自变量来预测一个或多个因变量的统计方法。多元线性回归●多元:有多个自变量; ●线性:通过自变量的线性组合对因变量进行预测或估计; 基本概念: 多元线性回归模型: ????????),0(~ Y 2 mm 110??????N xx?◆: 常数项,又称为截距◆,… : 偏回归系数,简称回归系数。表示相应的自变量对因变量的影响程度。◆?: 去除 m 个自变量对 Y 的影响后的随机误差,不可观测。且通常假定 0? 1? 2? m? 2 ~ (0, ) N ? ?若进行 n 次独立观测, 得到 n 组样本数据, 每一组样本数据分别满足多元线性回归模型,即有: 1 2 ( , , , ; ) i i ip i x x x y ? 1, 2, , i n ?? 1 0 1 11 2 12 1 1 2 0 1 21 2 22 2 2 0 1 1 2 2 p p p p n n n p np n y x x x y x x x y x x x ? ? ???? ? ???? ? ???? ???????? ? ????????? ? ???????????写成矩阵形式: Y X ? ?? ? 1 2 ( , , , ) Tn ? ????? 1 2 ( , , , ) Tn Y y y y ?? 0 1 ( , , , ) Tp ? ????? 11 12 1 21 22 2 1 2 111 pp n n np x x x x x x X x x x ? ?? ?? ??? ?? ?? ?? ???? ????多元线性回归基本步骤█步骤一:回归系数β的求解方法:最小二乘法我们寻求回归系数的适宜数值应该使得实际观察值和回归方程估计值之间残差平方和最小,即有: 0 1 , , ..., p ? ?? 0 1 ???, , ..., p ? ?? 2 2 1 1 ?= ( ) 残差平方和 n n i i i i i Q y y ?? ?? ?? ? 2 0 1 1 2 2 1????( ) n i i i p ip i y x x x ? ????? ???????根据最小二乘法理论,将上式分别对求偏导数,令偏导数为零,可获得 P+1个正规方程,求解正规方程可得待估参数值。 0 1 ???, , ..., p ? ?? 0 1 1 2 2 10 0 1 1 2 2 1 11 0 1 1 2 2 1???? 2 ( ) 0 ????? 2 ( ) 0 ????? 2 ( ) 0 ? n i i i p ip in i i i p ip i in i i i p ip ip iPQ y x x x Q y x x x x Q y x x x x ? ????? ????? ??????????? ????????????? ??????????????? ??????????????????????( 0,1, ,