预备知识:
Sigmoid:
exP(
x)
dy
dx
-1
d(1exp(x))
dx
1(1exp(
x))
2dexp(
x)
2
1(1exp(x))(exp(x))
exp(x)
dx预备知识:
Sigmoid:
exP(
x)
dy
dx
-1
d(1exp(x))
dx
1(1exp(
x))
2dexp(
x)
2
1(1exp(x))(exp(x))
exp(x)
dx
1
2
(1exp(x))
y(1 y)
1
1
:
网络结构：输入层有I个神经元，隐层有J个神经元，输生层有
K个神经元，权值为W
输入样本x(X,”….XI)T，隐层输由H(hi,h
(1 exp( x))
.….hJ)T
实际输由Y(y1,y2.…Yk)T
教学值T(t1,t2.….tTT,net为神经元的输生。
I
hjg(netj),netjWj*R;j1,2…..J
隐层： exp( x)
二BP推导
j
Vkg(net),net%*%*1,2..…K
输出层：1
E
误差和函数：
K
(tiyi)2
i
w(m1)w(m)
权值调整：
2..输由层权值调整:
I
hjg(net),netjWj*X；j1,2…..J
i
j
Vkg(netk),netkWk*y；k1,2…..K
i
Wjk表示第j个神经元到第k个神经元之间的权值
误差求导:
E E net
Wjk nek Wk
Eyknetnet
kyknetWkWk
k-(tkyk)yk(1yk)
nei
Wjk
j
Wkhi
」当l!
Wjk
j时不是Wjk的函数侧
j
Wkhii
Wjk
Wjk
hj
E
Wjk
net
-&yk)yk(iy/hj
:
I
hjg(net),netjWj
BP算法推导 来自淘豆网m.daumloan.com转载请标明出处.
