哈工大模式识别实验报告.doc

模式识别实验报告
本次报告选做第一个实验,实验报告如下:
1 实验要求
构造1个三层神经网络,输出节点数1个,即多输入单输出型结构,训练它用来将表中的第一类样本和第二类样本分开。
采用逐个样本修正的BP算法,设隐层节点数为4,学习效率η=,惯性系数α=;训练控制总的迭代次数N=100000;训练控制误差:e=。在采用 0~1内均匀分布随机数初始化所有权值。
对1)分析学习效率η,惯性系数α;总的迭代次数N;训练控制误差e、初始化权值以及隐层节点数对网络性能的影响。要求绘出学习曲线----训练误差与迭代次数的关系曲线。并将得到的网络对训练样本分类,给出错误率。
采用批处理BP算法重复1)。比较两者结果。
表1 神经网络用于模式识别数据(X1、X2、X3是样本的特征)
样
本
第一类
第二类
X1
X2
X3
X1
X2
X3
1


-


-
2


-


-
3


-



4
-

-
-

-
5
-

-
-

-
6





-
7


-
-

-
8
-

-


-
9


-


-
10
-

-



2 BP网络的构建
三层前馈神经网络示意图,见图1.
图1 三层前馈神经网络
①网络初始化,用一组随机数对网络赋初始权值,设置学习步长h、允许误差e、网络结构(即网络层数L和每层节点数nl);
②为网络提供一组学习样本;
③对每个学习样本p循环
;
;
,学习过程结束,否则,进行误差反向传播。

如果取为S型函数,即,则
对于输出层
对于隐含层

式中,k 为学习次数,为学习因子。取值越大,每次权值的改变越剧烈,可能导致学习过程振荡,因此,为了使学习因子的取值足够大,又不至产生振荡,通常在权值修正公式中加入一个附加动量法。
在BP中希望误差反向传递,有两种误差反向传递的方式:逐个样本与批处理。在BP算法。一种模式是在给神经网络每提供一组学习样本,就计算一次误差并调整权重系数,,再计算出误差,进而调整权重系数,,逐个样本模式在系统辩识和实时控制系统中显得十分重要,因为实时控制中无法将所