机器学习.ppt

授课教师:陈士杰国立联合大学信息管理学系Course 2: 概念学习和一般到特殊次序 Concept Learning and the General-to Special Ordering2国立联合大学国立联合大学信息管理学系信息管理学系人工智能课程人工智能课程( (陈士杰陈士杰))从特殊的从特殊的训练训练范例中范例中归纳归纳出一般函数是机器学出一般函数是机器学习习的中心的中心问题问题。。概念学概念学习习(Concept Learning) (Concept Learning)给定某一类别的若干正例和反例,从中获得该类别的一般定义。概念学习可看成是一个搜索的观点在预定的假设空间中搜索假设,使其与训练范例有最佳的适配度。3国立联合大学国立联合大学信息管理学系信息管理学系人工智能课程人工智能课程( (陈士杰陈士杰))■简介许多机器学习涉及到从特殊训练范例中得到一般概念。鸟类、车子…概念(Concept),可被看作一个对象或事件集合:它是从更大的集合中选取的子集在这个较大集合中定义的布尔函数4国立联合大学国立联合大学信息管理学系信息管理学系人工智能课程人工智能课程( (陈士杰陈士杰))给定一个范例集合以及每个范例是否属于某个概念的标记,怎样推断出该概念的一般定义,即称为概念学习,又称从范例中逼近布尔函数。Def: Def: 概念学概念学习习是指从有关某个布是指从有关某个布尔尔函数的函数的输输入入输输出出训练训练范例中范例中, , 推断出推断出该该布布尔尔函数。函数。5国立联合大学国立联合大学信息管理学系信息管理学系人工智能课程人工智能课程( (陈士杰陈士杰))■概念学习任务一个例子目标概念: Aldo进行水上运动的日子,表示为布尔函数EnjoySport任务目的,基于某天的各属性,预测EnjoySport的值一个范例集,每个范例表示为属性的集合YesChangeCoolStrongHighWarmSunny4NoChangeWarmStrongHighColdRainy3YesSameWarmStrongHighWarmSunny2YesSameWarmStrongNormalWarmSunny1EnjoySportForecastWaterWindHumidityAirTempSkyExample表2-1 目標概念EnjoySport的訓練範例6国立联合大学国立联合大学信息管理学系信息管理学系人工智能课程人工智能课程( (陈士杰陈士杰))表示假设的形式一个简单的表示形式,为实例的各属性限制之结合令每个假设为6个限制(或变量)的向量,每个限制对应一个属性可取值范围,为:“?”: 本属性“任意”可接受的值明确指定的属性值“?”: 不接受任何值Ex:YesChangeCool?HighWarmSunny4NoChangeWarmStrongHigh?Rainy3YesSameWarmStrongHighWarmSunny2Yes?WarmStrongNormal?Sunny1EnjoySportForecastWaterWindHumidityAirTempSkyExample目標概念的訓練範例7国立联合大学国立联合大学信息管理学系信息管理学系人工智能课程人工智能课程( (陈士杰陈士杰))表2-2 EnjoySport概念学习任务已知:实例集 X: 可能的日子,每个日子由下面的属性描述:Sky (可取值为 Sunny, Cloudy 和 Rainy)AirTemp (可取值为 Warm 和 Cold)Humidity (可取值为 Normal 和 High)Wind (可取值为 Strong 和 Weak)Water (可取值为 Warm 和 Cool)Forecast (可取值为 Same 和 Change)假设集 H: 每个假设描述为6个属性的值限制之结合。限制可以为“?”(表示接受任意值), “?”(表示拒绝所有值), 或一特定值。目标概念 c: EnjoySport: X?{0, 1}训练范例集 D: 目标函数的正例与反例(表2-1)求解H中的一假设 h, 使得对于X中任意x, h(x) = c(x)8国立联合大学国立联合大学信息管理学系信息管理学系人工智能课程人工智能课程( (陈士杰陈士杰))假设的例子<?, Cold, High, ?, ?, ?><?, ?, ?, ?, ?, ?>// 所有的范例都是正例(最一般)< ?, ?, ?, ?, ?, ?>// 所有的范例都是反例(最特殊)9国立联合大学国立联合大学信息管理学系信息管理学系人工智能课程人工智能课程( (陈士杰陈士杰))1. 术语定义实例集X (Instance Set)待学习的概念或函数: 目标概念c (Target Concept)训练范例x (Traini