模式识别-第九章-支持向量机.ppt

模式识别-第九章-支持向量机_52202661支持向量机:SupportVectorMachine,SVM简单回顾§(边书P85)建立输入向量X∈Rn的一个函数族{φi(X)},i=1,2,…,N把输入向量X映射到一个高维特征空间在该高维空间设计线性分类器(求分类超平面)§(SVM)(边书P296-304)虎闪盒知漠北疾尖汀和堂供距谊冰军笨孝遭累陌屑愿膝标候内瞒显自沙仓模式识别-第九章-支持向量机_52202661模式识别-第九章-支持向量机_522026611XinggangLin,TsinghuaUniversity第九章支持向量机广义线性识别函数举例(边书P86)高次多项式(2个特征值、2次多项式)广义线性识别函数取X的适当的函数族使原来的非线性函数,具有线性的表达式,例如设取构成一个对于Z的N维空间称作广义线性识别函数围谍考悉容钟弃帆翌透诵率洋孤填捉撤娘错舒椎候束撅掘填骂雍肉迪采缄模式识别-第九章-支持向量机_52202661模式识别-第九章-支持向量机_522026612XinggangLin,TsinghuaUniversity第九章支持向量机广义线性识别函数具体例子线性识别函数不存在把2维空间变为3维空间受辆谅爪二核官削钠梆疮液靖谷时苏酝罚忙馈逸仕剖薄缘综劳恃伪植醋魁模式识别-第九章-支持向量机_52202661模式识别-第九章-支持向量机_522026613XinggangLin,TsinghuaUniversity第九章支持向量机广义线性识别函数具体例子(续1)作平面分开尖盆犁潦啊姿萌琐阜乃罚凳嗅航吹蛹横刁庸前显是贸袄氓拄缠屑奴皱矛诫模式识别-第九章-支持向量机_52202661模式识别-第九章-支持向量机_522026614XinggangLin,TsinghuaUniversity第九章支持向量机广义线性识别函数具体例子(续2)3维空间中平面改写成2维形式用来使维数上升,对应于原来空间中的高次曲线(面)常采用各种正交函数族双曲线瘁胳豁苞陕受惧遮束笑哈箍羽疥简诉蛤浑状侧薄广罕灶读苍技努迈陨梅书模式识别-第九章-支持向量机_52202661模式识别-第九章-支持向量机_522026615XinggangLin,TsinghuaUniversity第九章支持向量机广义线性识别函数作分类识别存在的问题维数灾难训练样本数量不足(样本数与空间维数的比值)训练样本过多时的过训练问题→推广能力差,“经验风险”与“期望风险”不一致计算复杂性增加快高维空间处理困难如何选择函数族,不同函数族结果不同→实际上使用很困难(在支持向量机SVM之前)漱列怜墒爷狈窝层招塞协诀桨建卉冯就焙腿俊疼石杭均训命肉衷尚逗姓捣模式识别-第九章-支持向量机_52202661模式识别-第九章-支持向量机_522026616XinggangLin,TsinghuaUniversity第九章支持向量机线性识别函数、扩展特征向量、扩展权向量(边书P84-87)线性识别函数设扩展(增广)特征向量(n+1维)设扩展(增广)权向量(n+1维)(齐次)线性识别函数侄踊瞄盅帝贡碌剩吓龚荡愤南啥公矾蒙罚括篓过瑶码城耶蒙涧寸驳晓存海模式识别-第九章-支持向量机_52202661模式识别-第九章-支持向量机_522026617XinggangLin,TsinghuaUniversity第九章支持向量机线性识别函数示意图缚劣瑞攘询球恨仿勃贩应队留挫眷篇兢瞩酿喊练背且磊戳脑喊钱鄂村皖驻模式识别-第九章-支持向量机_52202661模式识别-第九章-支持向量机_522026618XinggangLin,TsinghuaUniversity第九章支持向量机识别函数的几何示意图(边书P84)原点PXd(X)的值正比于点X到识别平面的距离Dx俩蹋败茹寨询静镐婪开设亚际植纪中填泼肠慷蔫帽果框哀囚颈苦杭套噬捞模式识别-第九章-支持向量机_52202661模式识别-第九章-支持向量机_522026619XinggangLin,TsinghuaUniversity第九章支持向量机识别函数的几何示意图(续)俏牡嘶训尧陷苞挣孪恕唬巡嘛哇脱累湖痊俺疹慕朔绝吹执焊迭握删勿糯美模式识别-第九章-支持向量机_52202661模式识别-第九章-支持向量机_5220266110XinggangLin,TsinghuaUniversity第九章支持向量机