BP算法文献综述.docx

人工神经网络的技术前沿王媛媛人工神经网络的起源自古以来,各界研究工作者对于“人脑”“生物智能”一直表现着极大的研究兴趣。采用某种工程技术的手段设计出具有生物神经网络的某些结构功能的软硬件智能设施被称为“人工神经网络技术”【1】。举例来讲,“识别人脸”是大脑的基本功能,正常成人可以正确辨别认识的人脸。但计算机要准确做到这一点却比较困难,因为计算机智能针对具体的模型机型指令编程,若没有精确的模型,程序也就无法编制。故而如何针对人脑所具有的各项智能活动做出有效的计算机或硬件模拟,就是人工神经网络的主要研究内容。人工神经网络起源于20世纪初期,主要由两方面因素催生。一方面经过生物学家数学家的不懈努力,采用数学模型来描述神经元的基本生物活动成为可能。神经元是神经活动的基础原件,了解神经元的工作机制是创建人工神经网络科学的基础。另外一方面,19世纪比较具有代表性的牛顿力学或者欧式几何都是线性科学,而生物智能活动如此纷繁复杂,不可能用简单的线性数学模型进行模拟,提出一种非线性的可有效模拟神经网络活动的模型算法迫在眉睫。人工神经网络的发展并不是偶然,而是在当时的科学背景下应运而生。人工神经网络的发展人工神经网络算法真正发展于20世纪40年代初,至今发展也不超过一百年,虽然其存在的时间较短,但其发展过程可谓一波三折,经历很多挫折,也取得很多进展。1943年,,共同提出M-P模型,第一次用数学语言描述了神经元的活动【2】。虽然其神经元的功能较弱,但M-P模型的提出为人工神经网络奠定了基础,自此发展开来。,他认为人脑的学习活动室发生在突触上的,而其联系的强度会随着神经元的活动而变化【3】。他的假设为人工神经网络的学习活动研究提供了基础。1958年,Rosenblatt提出了著名的感知机模型,这是第一个真正意义上的神经网络,它基本上满足了神经生理学的一切先验知识,可用于模式识别、联想记忆等方面【4】。以当时来看,此类神经网络可以模拟人脑智能的活动,因此前景大好。大量实验室甚至军方都投入研究,神经网络一时声名大噪。然而好景不长,1969年,美国著名人工智能学者Minsky和Papert仔细研究Rosenblatt的研究成果后发现感知机有其应用的局限性,甚至连最简单的异或(XOR问题都无法解决【5】。此二人对于感知机的论断降低了人们对于神经网络研究学习的热情,许多研究工作者退出研究领域,自此神经网络的研究进入萧条时期。不过还是有不少学者继续从事神经网络领域的研究,也取得了一些积极的研究成果。但此领域直至十五年后才又一次恢复研究热潮。,分别提出了Hopfield神经网络模型并设计了此类神经网络的硬件电路。Hopfield在他的神经网络中引入能量函数,并用非线性动力学的方法研究此类网络,取得了很多突破性进展。在硬件实现过程中,他提出可以用运算放大器来模拟单个神经元,所有神经元的连接也可以用电子线路模拟【6】。这些成果的取得再次点燃了众多科研工作者的热情,神经网络领域第二次步入兴盛期。1986年,