【2019年整理】利用matlab仿真的BP-ANN分类器设计.docx

bp-anM类器设计
引言
从深层意义上看，模式识别和人工智能本质都是在解决如何让用机器模拟人脑认知的过
程。一方面，从需要实现的功能出发，我们可以将目标分解为子功能， 采用自定而下的的分
解法实现我们需要的拟合算法。而另一方面，无论人脑多么复杂，人类的认知过程都可以认 为若干个神经元组成的神经网络在一定机制下经由复杂映射产生的结果。 从神经元的基本功
能出发，采用自下而上的设计方法，从简单到复杂，也是实现拟合算法的一条高效途径。

人工神经网络(Artificial Neural Network , ANN )是一种应用类似于大脑神经突触联接 的结构进行信息处理的数学模型。在工程与学术界也常直接简称为神经网络或类神经网络。
神经网络是一种运算模型，由大量的节点 (或称神经元)之间相互联接构成。每个节点代表
一种特定的输出函数， 称为激励函数(activation function )。每两个节点间的连接都代表一个 对于通过该连接信号的加权值， 称之为权重，这相当于人工神经网络的记忆。 网络的输出则
依网络的连接方式，权重值和激励函数的不同而不同。 而网络自身通常都是对自然界某种算
法或者函数的逼近，也可能是对一种逻辑策略的表达。
人工神经网络是由大量处理单元互联组成的非线性、 自适应信息处理系统。它是在现代
神经科学研究成果的基础上提出的， 试图通过模拟大脑神经网络处理、 记忆信息的方式进行 信息处理。人工神经网络具有四个基本特征：
非线性 非线性关系是自然界的普遍特性。 大脑的智慧就是一种非线性现象。 人工 神经元处于激活或抑制二种不同的状态， 这种行为在数学上表现为一种非线性关系。 具有阈 值的神经元构成的网络具有更好的性能，可以提高容错性和存储容量。
非局限性一个神经网络通常由多个神经元广泛连接而成。 一个系统的整体行为不
仅取决于单个神经元的特征， 而且可能主要由单元之间的相互作用、 相互连接所决定。通过
单元之间的大量连接模拟大脑的非局限性。联想记忆是非局限性的典型例子。
非常定性 人工神经网络具有自适应、自组织、自学习能力。 神经网络不但处理的
信息可以有各种变化， 而且在处理信息的同时， 非线性动力系统本身也在不断变化。 经常采
用迭代过程描写动力系统的演化过程。
非凸性 一个系统的演化方向， 在一定条件下将取决于某个特定的状态函数。 例如 能量函数，它的极值相应于系统比较稳定的状态。 非凸性是指这种函数有多个极值， 故系统 具有多个较稳定的平衡态，这将导致系统演化的多样性。
BP-ANN的优缺点
BP-ANN的优点，主要表现在三个方面：
第一，具有自学习功能。网络能通过学习带正确答案的实例集自动提取 “合理的”求解
规则，即具有自学习能力。自学习功能对于预测有特别重要的意义。 预期未来的人工神经网
络计算机将为人类提供经济预测、市场预测、 效益预测，其应用前途是很远大的。 例如实现
图像识别时，只在先把许多不同的图像样板和对应的应识别的结果输入人工神经网络， 网络
就会通过自学习功能，慢慢学会识别类似的图像。
第二，具有联想存储功能。用人工神经网络的反馈网络就可以实现这种联想。
第三，具有拟合任何网络的的能力。网络实质上实现了一个从输入到输出的映射功能，
而数学理论已证明它具有实现任何复杂非线性映射的功能。 这使得它特别适合于求解内部机
制复杂的问题。
BP-ANN的缺点，主要表现在以下几个方面：
第一，BP-ANN算法的学习速度很慢。由于 BP-ANN算法本质上为梯度下降法，而它 所要优化的目标函数又非常复杂，因此，必然会出现“锯齿形现象” ，这使得BP-ANN算法
低效；其次由于存在麻痹现象，由于优化的目标函数很复杂，它必然会在神经元输出接近 0
或1的情况下，出现一些平坦区，在这些区域内，权值误差改变很小， 使训练过程几乎停顿； 另外，为了使网络执行 BP-ANN算法，不能用传统的一维搜索法求每次迭代的步长，而必 须把步长的更新规则预先赋予网络，这种方法将引起算法低效。
第二，网络训练失败的可能性较大。从数学角度看，BP-ANN算法为一种局部搜索的优 化方法，但它要解决的问题为求解复杂非线性函数的全局极值， 因此，算法很有可能陷入局
部极值，使训练失败；网络的逼近、 推广能力同学习样本的典型性密切相关，而从问题中选
取典型样本实例组成训练集是一个很困难的问题。
第三，难以解决应用问题的实例规模和网络规模间的矛盾。 这涉及到网络容量的可能性
与可行性的关系问题，即学习复杂性问题；
第四，网络结构的选择尚无一种统一而完整的理论指导，一般只能由经验选定。为此， 有人称神经网络的结构选择为一种