ztsaaa读书报告.doc

神经网络基础及其应用题目:神经网络读书报告学院:电子工程学院学号:1102320829姓名:高超概述神经网络的研究是受神经科学的启示,促使人们研制模仿人类大脑的神经计算机。我们知道,在许多方面,人类的大脑要比数字计算机优越得多,视觉信息处理就是一个很好的例子,一个周岁的婴儿对目标(如面孔)的识别和运行于最快速的超级计算机上的最先进的人工智能(AI)系统相比要快速和准确得多。人类大脑神经系统的活动可以给我们许多有益的启示,神经生物学和心理学的实验不能由现在的以离散符号处理的计算理论来解释。与现有计算机很不相同,人类大脑的神经系统没有分开的处理器与记忆器,它是由功能比较单纯的神经元通过大量的神经联系形成的网络,这些神经元的兴奋与抑制的活动服从一定的动力学规律,它们之间的神经联系,有的在个体发育时形成,然后基本固定下来;有的是可塑性的,可以改变。记忆、知觉与认知过程就是通过神经网络中神经元与神经联系的整体性活动与变化而实现的。人类大脑还有其它一些在人工信息处理系统中所迫切需要的待点,例如:它是鲁棒性的(Robust)、容错的,能够自动修正误差,局部损伤不破坏整体结果,大脑中的神经细胞每天都有死亡却不影响大脑的功能。这与现代计算机的脆弱性形成鲜明对比。它是灵活的。可以通过学习自适应于新的环境,即神经网络系统可以在使用过程中不断学习完善自己的功能,具有创新持点。它可以处理模糊的、概率的、含噪的或不相容的信息。它是高度并行的。它是小巧紧凑的,且只消耗很少的能量。神经科学给予我们最主要的启示就是神经元及其并行连接。第一章神经网络的发展历史神经网络的研究已有近40年的历史,其发展过程可以大致分为四个阶段:(一)奠基时期作为神经计算或神经建模的基础,ulloch和Pitts1943年发表的论文奠定的。他们的论文“神经活动中所蕴含思想的逻辑活动”,一方面赋予了神经元及由其组成的神经网络以符号逻辑描述,这对于后来的形式神经元网络的理论与应用研究一直具有倾向性影响,另一方面,他们有关“通过神经联结和神经元适当的阈值,大脑内神经元的活动性可以表征关于外部世界的感官初始命题的一切有限逻辑组合”的科学思想,不仅成为以后脑理论发展的基础,也是50年代以来神经科学中主要实验路线的基础。1949年,心理学家DonaldHebb写了一本题为“行为的组织”一书,认为经典的心理调节在动物中是广泛存在的,因为这是备神经元共同具有的性质。Hebb将此思想进一步推广,提出了神经元突触的一种具体的学习规律。利用这一学习规律,Hebb对一些心理学实验结论作了定性的解释。这一工作激发许多学者从事这一领域的研究,从而为神经计算的出现打下了基础。(二)第一次研究高潮从1957年到1958年间,FrankRosenblatt等人研究出了第一台真正成功的神经计算机,即代号为MarkI的感知器。对于最简单的没有中间层的感知器,Rosenblatt证明了一种学习算法的收敛性,这种学习算法迭代地改变权使网络能够执行预期的计算。这一成就引起了许多学者对神经计算的热情。稍后于Rosenblatt,BernardWidrow等人沿着另—条路线研究了另一种不同类型的神经网络处理单元,即ADALINE,并对ADALINE找到了一种有力的学习规则。与感知器学习规则不同的是,ADALINE学习规则至今仍在极为广泛地应用着。除Rosenblatt和Widrow外,在50年代末和60年代初,还有许多人在神经计算的结构和实现思想方面作出了很大贡献。例如,KarlSteinbuch研究了称为学习矩阵的一种二进制联想网络结构及其硬件实现。NilsNilsson所著的“学习机器”(1965)一书对这一时期的活动作了总结。神经网络的第一次研究高潮和成功的时代从60年代中期以后开始接近尾声,由MarvinMinsky和SeymourPaPen开展的—场旨在贬低神经网络研究同时把它纳入“人工智能”轨道的运动,则可以被看成这—尾声后的闭幕式,其代表就是他们在1969年出版的“感知器”一书。(三)沉默期从1967年到1982年,美国几乎没有什么引入注意的有关神经计算的研究(在日本、欧洲和前苏联,受“感知器”一书的影响则相对较小)。但是,大量的研究在自适应信号处理、模式识别及生物建模的旗帜下仍在进行着,而且值得庆贺的是,这一沉默期中的1966—19G9年四年间涌现了一批新的天才学者,这些学者与其他一些人在过去13年中坚持不懈地在神经计算领域一直在做着脚踏实地的工作。(四)复兴期80年代初,许多神经计算研究者大胆地提出建议,研究神经计算机以及神经网络的应用。第一个复兴的标志是,美国的国防部高级工程局(DARPA)所属的国防科学办公室的计划主任听取了神经计算学者就有关研究工程的建议并提供了研究基金。随后,其它一些研究基金组织也纷纷仿效