线性回归
第1页/共210页
回归分析(regression analysis)
确定两种或两种以上变数间相互依赖的定量关系的一种统计分析方法。
*涉及的自变量的多少
一元回归分析
多元回归分析
*自变量和因变量之间的关系类型,
线性回归分析
非线性回归分析
第2页/共210页
回归分析一般步骤:
确定回归方程中的解释变量(自变量)和被解释变量(因变量)
确定回归模型
建立回归方程
对回归方程进行各种检验
利用回归方程进行预测
第3页/共210页
线性回归模型
一元线性回归模型是指只有一个解释变量的线性回归模型,用于揭示被解释变量与另一个解释变量之间的线性关系。
一元线性回归数学模型:
其中β0和β1是未知参数,分别称为回归常数和回归系数,ε称为随机误差,是一个随机变量,且应该满足两个前提条件:
E(ε)=0
var(ε)=σ2
第4页/共210页
多元线性回归模型是指有多个解释变量的线性回归模型,用于揭示被解释变量与其他多个解释变量之间的线性关系。
多元线性回归数学模型:
其中β0、β1、… βp都是未知参数,分别称为回归常数和偏回归系数,ε称为随机误差,是一个随机变量,且同样满足两个前提条件:
E(ε)=0
var(ε)=σ2
线性回归模型
第5页/共210页
回归参数的普通最小二乘估计(OLSE)
线性回归方程确定后的任务是利用已经收集到的样本数据,根据一定的统计拟合准则,对方程中的各参数进行估计。普通最小二乘就是一种最为常见的统计拟合准则。
最小二乘法将偏差距离定义为离差平方和,即
最小二乘估计就是寻找参数β0 、β1、… βp的估计值β̂0 、β ̂1、… β ̂p,使式(1)达到极小。通过求极值原理(偏导为零)和解方程组,可求得估计值,SPSS将自动完成。
第6页/共210页
回归方程的统计检验
回归方程的拟合优度检验(相关系数检验)
一元线性回归的拟合优度检验采用R2统计量,称为判定系数或决定系数,数学定义为
其中 称为回归平方和(SSA)
称为总离差平方和(SST)
第7页/共210页
回归方程的统计检验
回归方程的拟合优度检验(相关系数检验)
R2取值在0-1之间, R2越接近于1,说明回归方程对样本数据点的拟合优度越高。
第8页/共210页
多元线性回归的拟合优度检验采用 统计量,称为调整的判定系数或调整的决定系数,数学定义为
式中n-p-1、n-1分别是SSE和SST的自由度。其取值范围和意义与一元回归方程中的R2是相同的。
回归方程的统计检验
回归方程的拟合优度检验(相关系数检验)
第9页/共210页
回归方程的统计检验
回归方程的显著性检验(F检验)
一元线性回归方程显著性检验的零假设是β1=0,检验采用F统计量,其数学定义为:
即平均的SSA/平均的SSE,F统计量服从(1,n-2)个自由度的F分布。SPSS将会自动计算检验统计量的观测值以及对应的概率p值,如果p值小于给定的显著性水平α,则应拒绝零假设,认为线性关系显著。
第10页/共210页
线性回归分析PPT课件 来自淘豆网m.daumloan.com转载请标明出处.