概率论与数理统计-协方差和相关系数01.ppt

(1)定义:D(X)=
1. 设C是常数,则D(C)=0;
2. 若k是常数,则D(kX)=k2 D(X);
3. 若X1与X2 独立,则D(X1+X2)= D(X1)+D(X2);
复习:方差
(2)计算:
方法2:
方法1:由定义
(3)性质:
一般地: D(X1+X2)= D(X1)+D(X2) + 2 E{[X-E(X)] [Y-E(Y)]}。
(3)泊松分布:
(1)(0-1)分布:
D(X)=p (1-p )
(2) 二项分布:
D(X)=np(1-p)
D(X)=
(4)正态分布:
(5)均匀分布:
D(X)=
D(X)=
(6) 指数分布
(4)常见分布的方差:
(5) 切比雪夫不等式
(X)=,方差D(X)=2,则对>0 ,有不等式
证明:根据数学期望与方差的性质:
证明E(Y)=0,D(Y)=1
P99T10: 设E(X),D(X)均存在,且D(X) ≠0
通常把由 X X 标准化。
注意:更重要的是要知道如何将一个随机变量标准化.
§3 协方差和相关系数 Covariance and
correlation coefficient
对于一个二维随机向量(X,Y),期望和方差只反映了它们各自的平均取值与相对于其均值的偏离程度,没有反映出X与Y之间的相互关系。
D(X+Y)=D(X)+D(Y)+2E{[X-E(X)][Y-E(Y)]}
注意到公式
若X、Y相互独立,
D(X+Y)=D(X)+D(Y)。
E{[X-E(X)][Y-E(Y)]}=0,
可以发现 E{[X-E(X)][Y-E(Y)]} 这个数在一定程度上反映了X与Y之间的关系,称为X与Y的协方差。
一、协方差
1、定义:
设(X,Y)是一随机向量,称E{[X-E(X)][Y-E(Y)]}
Cov(X,Y)= E{[X-E(X)][Y-E(Y)]}
为X与Y的协方差,记作Cov(X,Y)或XY,即
若X、Y相互独立
说明
①对于r. vX,Y,
D(X+Y)=D(X)+D(Y)+2Cov(X,Y)

:
②意义:
Cov(X,Y)=0,
1)用定义式 Cov(X,Y)= E{[X-E(X)][Y-E(Y)]}
2、计算方法
2)用简单公式 Cov(X,Y)=E(XY)-E(X)E(Y)
Cov(X,X)=D(X)
Y
X
-1 0 1
-1
0
0
例1
求Cov(X,Y)
解:
用公式 Cov(X,Y)=E(XY)-E(X)E(Y)
①可求出(X,Y)关于X,Y的边缘分布律
X
-1
0
3/8
2/8
3/8
1
Y
-1
0
3/8
2/8
3/8
1
②
∴ Cov(X,Y)=0-0=0
说明:虽然Cov(X,Y)=0,但
即X与Y不独立。
3、性质ⅰ) Cov(X,Y)=Cov(Y,X);(对称性)
ⅱ) Cov(aX,bY)=abCov(X,Y), a,b是任意常数;
ⅲ) Cov(X1+X2,Y)=Cov(X1,Y)+Cov(X2,Y)
注:
协方差的大小在一定程度上反映了X和Y相互间的关系,
但它还受X与Y本身的系数影响. 例如:
Cov(10X, 10Y)=100Cov(X,Y)
为了克服这一缺点,将协方差标准化,即在计算协方差时,:
实际上,10X与10Y之间的关系和X与Y之间的关系应一致。
标准化的协方差称为X,Y的相关系数
二、相关系数(correlation coefficient)
设(X,Y)是一随机向量,当D(X)>0, D(Y)>0,则称数值
为X,Y的线性相关系数,简称相关系数.
注:
1、定义:
⑴相关系数也就是标准化的随机变量X*,Y*的协方差。
⑵ρXY 是没有单位的量,,能更好地反映X与Y之间的关系。
2、性质:
相关系数刻划了X和Y间“线性相关”的程度.
将e视为关于a,b的二元函数,求驻点:
解得
性质1)成立。
对应的误差平方为
性质2)证明略。
要使Y与X的某个线性函数a+bX最为接近,就是要找a,b使得误差平方e值最小.
证:
e=E{[Y-(a+bX)]2}=E(Y2)+b2E(X2)+a2 -2bE(XY)+2abE(X)-2aE(Y)
对任意的a,b,令
刻画了Y与a+bX的偏离程度
(*)