卷积神经网络CNN代码解析-matlab.doc

1
内蒙古大学 计算机学院 模式识别小组 小强 ******@
卷积神经网络CNN代码解析
deepLearnToolbox-master是一个深度学习matlab包，里面含有很多机器学习算法，如卷积神经网络CNN，深度信念网络DBN，自动编码AutoEncoder（堆栈SAE，卷积CAE）的作者是 Rasmus Berg Palm ()
代码下载：
这里我们介绍deepLearnToolbox-master中的CNN部分。
DeepLearnToolbox-master中CNN内的 函数：
调用关系为：
，作为cnn的一个使用样例，
每个样本特征为一个28*28=的向量。
网络结构为：
2
内蒙古大学 计算机学院 模式识别小组 小强 ******@
让我们来看看各个函数：
一、Test_example_CNN: 2
三、 5
四、 6
五、 7
五、 10
六、 11
Test_example_CNN:
Test_example_CNN:
1设置CNN的基本参数规格，如卷积、降采样层的数量，卷积核的大小、降采样的降幅
2 cnnsetup函数 初始化卷积核、偏置等
3 cnntrain函数 训练cnn，把训练数据分成batch，然后调用
cnnff 完成训练的前向过程，
cnnbp计算并传递神经网络的error，并计算梯度（权重的修改量）
cnnapplygrads 把计算出来的梯度加到原始模型上去
4 cnntest 函数，测试当前模型的准确率
3
内蒙古大学 计算机学院 模式识别小组 小强 ******@
，
含有70000个手写数字样本其中60000作为训练样本，10000作为测试样本。
把数据转成相应的格式，并归一化。
设置网络结构及训练参数
初始化网络，对数据进行批训练，验证模型准确率
绘制均方误差曲线
二、
该函数你用于初始化CNN的参数。
设置各层的mapsize大小，
初始化卷积层的卷积核、bias
尾部单层感知机的参数设置
*
bias统一设置为0
权重设置为：-1~1之间的随机数/sqrt（6/（输入神经元数量+输出神经元数量））
对于卷积核权重，输入输出为fan_in, fan_out
fan_out = {l}.outputmaps * {l}.kernelsize ^ 2;
%卷积核初始化，1层卷积为1*6个卷积核，2层卷积一共6*12=72个卷积核。对于每个卷积输出featuremap，
%fan_in = 表示该层的一个输出map，所对应的所有卷积核，包含的神经元的总数。1*25,6*25
4
内蒙古大学 计算机学院 模式识别小组 小强 ******@
fan_in = numInputmaps * {l}.kernelsize ^ 2;
fin =1*25 or 6*25
fout=1*6*25 or 6*12*25
{l}.k{i}{j} = (rand({l}.kernelsize) - ) * 2 * sqrt(6 / (fan_in + fan_out));
1 卷积降采样的参数初始化
2尾部单层感知机的参数（权重和偏量）设置：
5
内蒙古大学 计算机学院 模式识别小组 小强 ******@
三、
该函数用于训练CNN。
生成随机序列，每次选取一个batch（50）个样本进行训练。
批训练：计算50个随机样本的梯度，求和之后一次性更新到模型权重中。
在批训练过程中调用：
完成前向过程
完成误差传导和梯度计算过程
把计算出来的梯度加