机器学习算法 ——人工神经网络 （Artificial Neural Netwroks）
神经网络基本概念
1
神经网络的学习方法
2
BP神经网络
3
BP神经网络实例（Python）
4
目录
生物神经元的模型
神经网络的基本概念
神经元的数学模型
神经元的n个输入
接收的信息
(其它神经元的输出)
作比较
的阈值
互连强度/连接权值
激活函数
输出
连接的权值：两个互连的神经元之间相互作用的强弱。
神经元模型：神经元相当于一个多元输入一元输出的信息处理单元
神经元的数学模型
上面的神经元模型可以用一个数学表达式进行抽象与概括，从而得到神经元的数学模型：
神经元的网络输入记为net，即
有时为了方便，设
则有：
其中，
激活函数
数学神经元例子
神经网络学习方法
学习：神经网络的最重要特征之一。
实质：同一个训练集的样本输入输出模式反复作用于网络，网络按照一定的训练规则自动调节神经元之间的连接强度或拓扑结构，使实际输出满足期望的要求或者趋于稳定。
学习规则（典型的权值修正方法）：δ误差修正学习、Hebb学习规则
学习方法： 有监督学习、无监督学习
δ学习规则
（1）选择一组初始权值wij(1)；
（2）计算某一输入模式对应的实际输出与期望输出的误差；
（3）更新权值，阈值可视为输入恒为（－1）的一个权值；
式中，
η：学习因子；
dj，yj(t)：第j个神经元的期望输出与实际输出；
xi(t)：第j个神经元的第i个输入。
（4）返回 (2) ，直到对所有训练模式网络输出均能满足要求。
神经网络的学习体现在：权值变化；网络结构变化。
机器学习算法之神经网络 来自淘豆网m.daumloan.com转载请标明出处.
