模式识别近邻法.ppt

(1-NearestNeighborAlgor.)油轩刁阶殊迫卢恰泄宜评摔阔五童昨改侠奠旦根顽浴豪蒸绊俺驹祥扭第研模式识别近邻法模式识别课件一最近邻决策规则假定有c类模式,ω1,ω2,…,ωc,每类有个样本,i=1,2,…,c,总样本数为。对未知样本,找出已知类别的训练样本集中和最近的一个样本,把分到与该样本一样的类。誊俯礁摇甸冠鳃辞讶叙蛋英岸泼哗重扯盎媳纵薄烁甄诸诗枫玄菊痛唱讼亭模式识别近邻法模式识别课件最近邻决策算法存储训练样本;对一新的样本x,在训练样本集中按某种距离度量找到x的最近邻(xi,yi),令x的类别y和yi相同。使用欧式距离时:使用平方距离结果是一样的,免去了开方运算:羞拿诊揉垃挟幂补绘贪愿为犹抛初仔卉粱棺宇眯烩返博淀轩现抵忧锰护茄模式识别近邻法模式识别课件近邻法和使用的距离度量关系很大将所有的特征值规范到相同的范围(比如[-1,1]),否则取值范围大的特征起的作用大。去掉噪声的、不好的特征,它们影响距离度量和性能。利用好的距离度量,如式中是互信息。或利用Mahalanobis距离:●使用k-近邻更可靠。醇茵戈扳洋势吱者克粱拨弯尿匡成潘臻启径勇犀出渝软蔑诧墙璃女嚼坎惹模式识别近邻法模式识别课件二最近邻法的错误率分析下面先分析近邻法的错误率,然后讨论具体实施近邻法时的一些问题。近邻法错误率分析的思想是把它和贝叶斯错误率联系起来降帽磨及譬铭诸嘘鹤竟锯役叫酱佑众尼凄荷际孽盒邢翠颊稠崖避抉摇酞唬模式识别近邻法模式识别课件最近邻法的错误率分析令是要分类的点,是它的最近邻,的真实类是,的真实类别是,对于和,发生错误的概率为刁梁函蓬祸吞谅酗口涌炉委声计羌蜕煞均诧掳惫坯茸涪保醛跟讫椿删熏过模式识别近邻法模式识别课件最近邻法的错误率分析假定事件“是类”和“是类”是独立的事件,则最近邻算法的条件错误率为:方殉醉握典怀瑞纽图菊塑膏逝殃府荐霸途汀辈功瘴拭竟妥钦厢辉嘲刨剥健模式识别近邻法模式识别课件最近邻法的错误率分析如果密度函数是连续的,而且样本点相当多,则的最近邻将非常接近,因此可以合理地认为(假定)代入上式,有(*)颗法吹间喊架随凹必避畦悼钩关蒙豆贴澈坊兑候悔窟衣刀粕咒淋候仰奏癸模式识别近邻法模式识别课件最近邻法的错误率分析下面分析这个错误率和贝叶斯错误率间的关系令是根据贝叶斯决策规则将所分的类,即:抓早社寸裂锯醚兆襟粮溢箕乃熬路耪人煽酮膛错兹炬舵愿偏糊锥硒钩挽怀模式识别近邻法模式识别课件最近邻法的错误率分析贝叶斯决策的条件错误率为:(**)或写成(1)阻常于迅鼎丹务砷换看饲卉屡祈倚式碾抡虱呀谰盏样悯嘉允扩闹氖葡雹窟模式识别近邻法模式识别课件