R语言学习系列28-协方差分析.doc

R语言学习系列28-协方差分析.doc
一、基本原理
基本思想
在实际问题中,有些随机因素是很难人为控制的,但它们又会对结果产生显著影响。如果忽略这些因素的影响,则有可能得到不正确的结论。这种影响的变量称为协变量(一般是连续变量)。
例如,研究3种不同的教学方法的教学效果的好坏。检查教学效果是通过学生的考试成绩来反映的,而学生现在考试成绩是受到他们自身知识基础的影响,在考察的时候必须排除这种影响。
协方差分析将那些难以控制的随机变量作为协变量,在分析中将其排除,然后再分析控制变量对于观察变量的影响,从而实现对控制变量效果的准确评价。
协方差分析要求协变量应是连续数值型,多个协变量间互相独立, 且与控制变量之间没有交互影响。前面单因素方差分析和多因素方差分析中的控制变景都是一些定性变景,而协方差分析中既包含Y定性变量(控制变量),又包含了定量变量(协变量)。
协方差分析在扣除协变量的影响后再对修正后的主效应进行方差分析,是一种把直线回归或多元线性回归与方差分析结合起来的方法,其中的协变量一般是连续性变量,并假设协变量与因变量间存在线性关系,且这种线性关系在各组一致,即各组协变量与因变量所建立的回归直线基本平行。
当有一个协变量时,称为一元协方差分析,当有两个或两个以上
的协变量时,称为多元协方差分析。
协方差分析需要满足的条件
自变量是分类变量,协变量是定距变量,因变量是连续变量;对连续变量或定距变量的协变量的测量不能有误差;
协变景与因变景之间的关系是线性关系,可以用协变景和因变量的散点图来检验是否违背这一假设;协变量的回归系数(即各回归线的斜率)是相同的,且不等于0,即各组的回归线是非水平的平行线。否则,就有可能犯第一类错误,即错误地接受虚无假设;
自变量与协变量相互独立,若协方差受自变量的影响,那么协方差分析在检验自变量的效应之前对因变量所作的控制调整将是偏倚的,自变量对因变量的间接效应就会被排除;
各样本来自具有相同方差<72的正态分布总体,即要求各组方差齐性。
二、协方差理论
观测值=均值+分组变量影响+协变量影响+
yf- = M ■+ 一 X ) + (1)
其中,7为所有协变量的平均值。
注:在方差分析中,协变量影响是包含在随机误差中的,在协方差分析中需要分离出来。
用协变量进行修正,得到修正后的为
Z/(adj) = Z/ -障 ii ~X)= U + ti+£ij
就可以对;^吨做方差分析了。关键问题是求出回归系数P.
总离差=分组变量离差+协变量离差+随机误差,
(1)计算总离差平方和时,记
k n
/=1 y=l
k n
/=1 7=1
k n
总离差平方和:7;•尸SE(々-y)2 z=i 7=1
最终要检验分组自变量对因变量右无显著作用。原假设Ho:无显著作用。假设检验是在H0为真条件下进行,可认为妒0,则
按最小二乘法原理线性回归可得到(3的估计值
k-t
记修正的总离差平方和(残差平方和)为Tyy(adjP则
Tyy⑽=Tyy -於Txx = Tyy - f,自由度为 n_2 注:农21为回归平方和,若A.=o (回归线为水平线),表示协
变量X对y无作用,用方差分析就可以解决了。
(2)计算组内离差平方和时,记
k n
Exy=2L -足 x 々-歹/)
/=1 7=1
k n
/=1 y=l
组内总离差平方和••
/=1 >1
根据协方差分析的基本假设:各组内回归系数相等(做协方差分析时
XV
需要检验这一点),得到组内回归系数久的估计值
A,.
XX
记修正的组内总离差平方和(组内残差平方和)为EyyOldjh则
Eyy{^ = Eyy-^Exx = Eyy
i,自由度为“-1
其中,&.为组内回归平方和,当九二…二么时,组内总离差平方和认为完全是由随机因素引起的,EyyUdj^e是随机为误差。。
(3)计算分组变量离差平方和Byy(adj),它反映的是各个水平之
间的差异
XT(adj)
Byy(^) = r^(adj)- Eyy(adi) = Tyy-街Txx - E
即,分组变量离差=总离差-协变量离差-随机误差。于是,就可以进行组间无差异检验了:
F = Byy(^) /k~l
尽炯)’卜1
因此,在做协方差分析前,需要依次做两个假设检验:
(1)协变量对因变量的影响对与各组來说都是相同的,即各组
回归系数相等:
步骤:
①先按回归系数相等和不相等分别表示模型
Z/ =以+ 么+ Pw(xij 一x) +
Z/ = W + < 一〒)+ 〜
并计算出误差平方和
Eyy(adj) = Eyy - AEXX
k
其中,
i=l
②