5章-机器学习-人工智能研究生课程.ppt

第 5 章机器学习 1 机器学习概述 学习学习是对某一个特定目标的知识获取过程,系统的内部表现为新知识结构的建立和改进,外部表现为系统性能的改善,使之更快、更精确、更健全。机器学习是指用计算机模拟人类的学习行为,自动地通过,学习获取知识和技能,不断改善性能,实现系统的自我完善。 机器学习的意义(1)人类的学习成果不能被克隆( C1one) 。(2)人类个体的学习成果不能完整地永久保存。(3)人类的学习的成本 1/3 。(4)人类学习还存在着个体差异、遗忘等特征。 机器学习研究的发展 2 1)神经元模型研究阶段(数学生物物理学) 2)符号学习研究发展阶段(用符号表示知识,并用其对人类学习过程进行模拟) 3)联结学习和符号学习共同发展阶段。 4)分析学习、决策树归纳和遗传算法、联结和符号学习的集成学习 机器学习的模型、策略和方法 3 简单的学习模型(1)环境: 环境指系统所处的外在情形。(2)学习环节: 学习环节是学习系统的核心,采用合适的知识表示方式,对感知的环境信息进行加上处理,形成有效的知识存人系统知识库。(3)知识库: 知识库储存系统经过学习获得的知识,系统运用这些知识指导执行环节的动作. 1) 良好的知识表示 2)基于知识的扩充和修改(4)执行环节: 执行环节是设计学习系统的目的,是在运用学到的知识指导下,完成特定的任务或动作. 环境学习环节知识库执行环节 基本的学习方法按学习方法, 机器学习可分机械学习、示例学习、类比学习、解释学习等; 按推理方式, 机器学习可分为基于演绎的学习和基于归纳的学习; 演绎推理是从已知前提条件和逻辑推理规则,推出结论的一种推理, 若已知 C→R及C为真,就可得出 R必然为真的结论。归纳的学习从特殊事例大量实例概括、抽象出一般规则或结论的推理。(通常只能以一定的置信度予以接受。) 按综合属性分类,连接、遗传算法、归纳、分析学习、分类器系统; 按有无指导教师,机器学习可分为有监督的学习与无监督的学习; 按学习事物的性质,机器学习可分为概念学习与过程学习; 按所学知识的表示方式,机器学习可分为逻辑表示法学习、产生式表表示法学习、框架表示法学习等等; 按机器学习的应用领域,机器学习可分为专家系统、机器入学、自然语言处理、图像识别、博弈、数学、音乐等; 若按学习方法是否为符号表示来分类,则可分为符号学习与非符号学忆,把新知识储存起来,需要时对储存的知识进行检索, 而不再需要计算和推理。机械学习模式:设系统的输人模式为(X 1,X 2,…,X m), 对应的输出模式为(Y 1,Y 2,…Y m)。使用时根据给定的输人数据,直接查找、检索输出。机械学习类似数学用表、数据库采用的技术,用空间换时间的方法,减少计算和推理的时间。机械学习是最简单的学忆学硬背学习( Rote Learning) 传授学的建议,系统自动把它们变换成执行环节使用的较具体的、低水平的知识。(1)要求:专家提出建议。判别知识库的缺陷,并提出修正方法。( 2) 解释:用一定的知识表示方式把专家的建议转换成系统内部表示。 (3) 实用化:学习的信息变换过程,将专家建议转换成具体的知识。实用化过程往往采用试探性的假设和近似,确保其合理性, 并不保证其完全正确。得到的假设还要经过检验和修正。(4) 归并:将新知识加入知识库,检查并保证知识的相容性。(5) 评价:实用化过程得到的新知识往往只是假设,要经过验证和修改, 即需要进行评价。如果评价中发现了问题,就需要进行问题分析和知识库修改。实用化是整个学习过程的核心。指导式学习 示例学习 7 实例学习能从环境获取一些关于某个概念的实例,实例由老师准备好,并根据需要划分为正例和反例,学习系统根据这些实例进行归纳推理,得出关于这个概念的一般性规则(知识)。提供给系统的实例通常是非常具体的、低级的信息, 系统经过学的信息,即规则(知识), 并能使用学到的知识指导以后的执行行为。( Learning From Examples 实例学习) 例:教给系统扑克游戏中的“同花”概念 8 “同花”指一手 5张牌为同一花色 Diamonds , Clubs , Hearts , Spades 。例子空间:一副扑克牌中 5张牌的所有可能组合的集合。比如: “同花”的一个正例: {2, Hearts} , {K , Hearts} , {6, Hearts} , {10 , Hearts