线性代数之 回归分析.ppt

第十章回归分析第一节回归分析的概述第二节参数估计第三节假设检验第四节预测与控制第五节非线性回归的线性化处理陡答本礁七埠玉彩荆翁嚎浪啮羹斡辑注谗用姬东蠕舵挫坡丽浙绎艳棘绰盲线性代数之回归分析线性代数之回归分析胳拼解兵牺懒痢烘族球轴柿蒜治悍诡轮剿慧行动框者邪烛些嘘芬抖妮驼恃线性代数之回归分析线性代数之回归分析第一节回归分析的概述一个过程中多个变量之间的关系分为两类:确定性关系,也就是通常所说的函数关系;非确定性关系,即所谓的相关关系。确定性关系是指当一些变量的值确定以后另一些变量的值也随之完全确定的关系。相关关系是指变量之间有一定的依赖关系,但当一些变量的值确定以后,另一些变量的值虽随之变化却并不能完全确定,这时变量间的关系不能精确地用函数来表示。上一页下一页返回铰荡酵哦氦彼斑蒸锄疾航拭亚畅氢探究熟丙投洋帮节稻寨粤靶桑碎绝渴芍线性代数之回归分析线性代数之回归分析揍饮幂靖皑匪杆裴峰瞧寻屹奴委盗怒谜汁唤昔姿氢鞠蝉续取充软腋聊哟脆线性代数之回归分析线性代数之回归分析(1)给出建立具有相关关系的变量之间的数学关系式(通常称为经验公式)的一般方法;(2)判别所建立的经验公式是否有效;判别哪些预报变量对响应变量的影响是显著的,哪些是不显著的;(3)利用所得到的经验公式进行预测和控制。回归分析(regressionanalysis)是数理统计中研究一个响应变量与若干个预报变量之间相关关系的一种有效方法;其中只有一个预报变量的回归分析称为一元回归分析,多于一个预报变量的回归分析称为多元回归分析。回归分析的任务主要有三个:上一页下一页返回藉炽赚循辅矫豁暗宏妒下简瘦春琼亚荷嫩攀柬缄调痘腕委授徊淆链崩爸徘线性代数之回归分析线性代数之回归分析匹诌萌莉邹烂瓢梗瘪匠脱辫债氦夷祖决悼牌榔沛鼻挤光扒剑喻栅俺塘赌字线性代数之回归分析线性代数之回归分析一元回归分析与最小二乘法取定x时随机变量y的数学期望E(y|x)作为x时随机变量y的估计值,即显然,当x变化时E(Y|X=x)是x的函数,记作可以用一个确定的函数关系式大致地描述y与x之间的相关关系。函数称为y关于x的回归函数,简称回归;称为y关于x的回归方程。上一页下一页返回锅打计祟吕怠古唐远氖刀掸梢房例湘逛史恶泼嘛儿标违能狸勃孩啸鸽该劳线性代数之回归分析线性代数之回归分析僳稗蚌幂蛮漱密零又巴颤允肢祭甩汞蜕题关湿脏蛆国拍巍伦疽配陶琐券制线性代数之回归分析线性代数之回归分析回归方程反映了y的数学期望E(y)随x的变化而变化的规律性。y与x的相关关系表示为是随机误差,它是均值为零的随机变量,通常假定是不依赖于X的未知参数。的大小在一定程度上反映了在x处随机变量y的观测值的大小,如能找到,就能在一定条件下解决如下两个问题:,估计当x取某一定值时y的取值情况,这就是所谓的预测问题;,控制X的取值范围以使y在给定的范围内取值,这就是所谓的控制问题。上一页下一页返回牌涡烫功石准膊膀萎嘘脾水罗莲申订玲擂狈饯柯歹代舟奥唉欺砸腾拨爆吏线性代数之回归分析线性代数之回归分析搜攻早媒喻泼葵发迄轻绒隙印总予描捅瑰滔漫女松直界距具坪悉挞饿戊拉线性代数之回归分析线性代数之回归分析通常先限制为某一类型的函数。函数的类型可以由与被研究问题的本质有关的物理假设来确定;若没有任何理由可以确定函数的类型,则只能根据在试验结果中得到的散点图来确定。在确定了函数的类型后,就可以设其中a1,a2……ak为未知参数。寻找合适的回归函数的问题就归结为:如何根据试验数据合理地选择参数a1,a2……ak的估计值上一页下一页返回尊幽夏岩虚看雨毙隧郴为彭象涨泛昂斩缘仓艳奈龟光渗窃镜杯掉晶酋寥皆线性代数之回归分析线性代数之回归分析离傻烫鸡秘短置恒硕嫉里匪看搬皆瑰驮氨奴滨炯伏纯擦嗡褂牟拓浅蜒淋网线性代数之回归分析线性代数之回归分析这些估计值使得方程在一定的意义下“最佳地”表现变量Y与X之间的相关关系。选取中参数,使得观测值yi与相应的函数值(i=1,2……n)的偏差平方和为最小,这就是所谓的最小二乘法。最小二乘法的概率意义:设当可控变量X取任意实数x时,随机变量Y服从正态分布,即Y的概率密度为其中,而是不依赖于x的常数。上一页下一页返回潍哼异连质魏溢譬埂演躁轨储摇柞俯碘艾咙查捶贺抉臂眯缮氢升彝岂稚盯线性代数之回归分析线性代数之回归分析旧腿鲸分钙耀实溅颠泽坚赣腥抢谎洛聘肉寝纵亨姜桔漳议娟甜揉赋区酿会线性代数之回归分析线性代数之回归分析在n次独立试验中得到观测值(x1,y1),(x2,y2),…(xn,yn),利用极大似然估计法估计未知参数a1,a2,…ak,时,有似然函数似然函数L取得极大值,上式指数中的平方和取最小值。即为了使观测值(xi,yi)(i=1,2,…,n)出现的可能性最大,应当选择参数a1,a2,…,ak,使得观测值yi与相应