5.第五章神经网络幻灯片.ppt

第五章类神经网络
1
什么是类神经网络
类神经网络(work,NN)类似人类神经结构,是“一种基于脑与神经系统研究,所启发的信息处理技术”。它具有人脑功能基本特性:学忆和归纳。
神经网络中的几个术语:
树突(Dendrites):神经元中负责把神经脉冲传递至细胞体的神经纤维。
神经核(soma):神经元的中央处理部位。
轴突(Axon):神经元中负责把神经脉冲从细胞体往外传递的神经纤维。
突触(Synapse):神经元之间的连结机制。
2
3
2017/12/17
类神经网络,类似人类神经元结构。
神经元的主要功能是接受刺激和传递信息。神经元通过传入神经接受来自体内外环境变化的刺激信息,并对这些信息加以分析、综合和储存,再经过传出神经把指令传到所支配的器官和组织,产生调节和控制效应。
4
2017/12/17
y
Vj
5
类神经网络和回归分析不同,没有任何假设的概率分布,是模式识别和误差最小化的过程,在每一次经验中提取和学习信息。
类神经网络可以处理连续型和类别型的数据,对数据进行预测。
神经网络是有监督学习。
神经网络的特点:
二、类神经网络的架构
类神经网络主要结构是由神经元(neuron)、层(layer)work)三个部份所组成。
整个类神经网络包含一系列基本的神经元,通过权重(weight)相互连接。
这些单元以层的方式组织,每一层的每个神经元和前一层、后一层的神经元连接。
6
什么是后向传播?
后向传播是一种按误差逆传播算法训练的多层前馈网络的学习算法。这个神经网络包括输入层、隐藏层和输出层。
这种学习算法下的神经网络是一组连接的输入/输出单元,其中每个连接都与一个权相连。它的学习规则是使用最速下降法,按照误差纠正规则反向传播来不断调整网络的权值和阈值,使网络的误差平方和最小,从而使得能够预测输入样本的正确类标号。
前向传播:在前向传播过程中,神经网络中的所有突触的权重都是固定不变的。
8
不同的信息流向导致不同类型的网络,可区分为”前馈神经网络”(feed forward work)和”反馈式神经网络”(feedback work)。
9
什么是前馈神经网络:
前馈神经网络是指信息只朝一个方向流动,也就是数据在神经元之间的流动方向是单向的,没有循环。
这种网络而在分类过程中数据只能向前传送,直到到达输出层,层间没有向后的反馈信号,因此被称为前馈网络。
后向传播是在多层前馈神经网络上学习的。
10