下载此文档

AdaBoost算法及提升树PPT教学课件.pptx

文档分类：IT计算机 | 页数：约16页举报非法文档有奖

1/16

下载提示

1.该资料是网友上传的，本站提供全文预览，预览什么样，下载就什么样。
2.下载该文档所得收入归上传者、原创者。
3.下载的文档，不会出现我们的网址水印。

同意并开始全文预览

(约 1-6 秒)

1/16 下载此文档

文档列表 文档介绍

AdaBoost算法的解决方案
如何在每一轮改变训练数据的权值
提高前一轮弱分类器错误分类样本的权值，降低被正确分类样本的权值
如何将弱分类器组合成强分类器
增加分类误差率小的弱分类器的权值，使其起较大的决定作用，同时减小分类误差率大的弱分类器的权值。
第1页/共16页
AdaBoost算法
第2页/共16页
系数
第3页/共16页
权值更新当正确分类时，，相应的权值会降低，相反相应的权值会增大
第4页/共16页
AdaBoost误差分析
AdaBoost算法最终分类器的训练误差界为
第5页/共16页
AdaBoost误差分析
对于二分类问题AdaBoost训练误差界为
其中
第6页/共16页
不等式的证明，等价于证明
只需证明
采用做差、求导的方法即可证明
上式说明，AdaBoost的训练误差是以指数速率下降的！
AdaBoost误差分析
第7页/共16页
第8页/共16页
前向分步算法
AdaBoost算法中的基本分类器的线性组合为
这是一个加法模型。在给定训练数据及损失函数L(y,f(x))条件下，学习加法模型f(x)成为损失函数极小化问题
第9页/共16页
前向分步算法
但是求解这个问题非常复杂。而前向分步算法的思想是每次只学习一组参数，保证每一轮都最优，然后逐步逼近最优目标函数，即
注意前后两个公式的差别
第10页/共16页

AdaBoost算法及提升树PPT教学课件来自淘豆网m.daumloan.com转载请标明出处.