：前向网络.ppt

第二讲:前馈神经网络主要内容一:前向网络简介二:具有硬限幅函数的单层网络的分类功能(感知器) 三:具有线性函数的单层网络的分类功能四:前向多层网络的分类功能五: BP网络及 BP算法以及 BP网络的应用上一讲内容回顾模拟生物神经网络的 ANN 的这一数学方法问世以来,人们已慢慢习惯了把这种 ANN 直接称为 NN。?NN在数学、优化与运筹学、计算机科学与智能理论、信号处理、控制科学、机器人、系统科学等领域吸引来了众多的研究者,呈现勃勃生机。?给这些学科中的一些困难问题,带来了新的分析、求解的新思路和新方法。?对控制科学领域, NN在系统辨识、模式识别、智能控制等领域有着广泛而吸引人的前景。?特别在智能控制中,人们对 NN的自学习功能尤其感兴趣,并且把 NN这一重要特点看作是解决控制器适应能力这个难题的关键钥匙之一. 上一章内容回顾此外,在控制领域的研究课题中,不确定性系统的控制问题、非线性系统控制问题长期以来都是控制理论研究的中心主题,但是这些问题一直没有得到有效的解决。?利用 NN的学习能力,使它在对不确定性系统的控制过程中自动学习系统的特性,从而适应系统变化的环境和内在特性,以达到对系统的最优控制. ?利用 NN的非线性逼近能力,将NN用于非线性系统控制问题中的模型表达、控制器设计、在线控制计算、自适应控制等.?显然,NN 对于控制科学领域是一种十分振奋人心的意向和方法。上一章内容回顾?NN的基础在于神经元. ,以探讨 AI的机制时, 把神经元数学化,从而产生了神经元数学模型. ?大量的形式相同的神经元连结在—起就组成了 NN. ?虽然,单个神经元的结构和功能都不复杂,但是 NN的动态行为则是十分复杂的,是一个高度非线性动力学系统. ?因此,用NN可以表达实际物理世界的复杂现象. 前向网络简介 。多层网络不能隔层传递,无反馈。 : ?硬限幅函数 1(.), sgn (.) ?线性函数?非线性函数 s(.), th(.) 。前向网络的本质由输入到输出的静态映射。 : 算法, LSM 算法, BP 算法(误差反向传递算法) ? 0y1x 1Ny ? 0x 1Nx ? 单层网络分类功能(感知器) ?本节主要介绍: ?单层网络的结构?调整连接权和阈值的学习规则( 算法) ?单层网络的训练和设计?单层网络分类的局限性? 单层网络分类功能(感知器) ( )于 1957 年提出的。单层感知器神经元模型图: 感知器神经元模型硬限幅函数? 单层网络分类功能(感知器) ?根据网络结构,可以写出第 i个输出神经元(i= 1,2,…, s)的加权输入和 n i以及其输出 a i为: 其中, 为阈值,f[?]是阶跃函数。?线性可分概念设有二维输入矢量,共有两类, 若可以用一条直线将其无误的分开,称为线性可分。 0 1 [ , ] x x x ? 1 2 , c c 1, 0 ( ) 0, 0 i i i in a f n n ???? ??? ???? ??? 已经证明,如果两类模式是线性可分的(指存在一个超平面将它们分开),则算法一定收敛。感知器特别适用于简单的模式分类问题,也可用于基于模式分类的学习控制中。本节中所说的感知器是指单层的感知器。多层网络因为要用到后面将要介绍的反向传播法进行权值修正,所以把它们均归类为反向传播网络之中。 单层网络分类功能(感知器)