.
BP算法推算过程当加入第k个输入时,隐蔽层h结点的输入加权和为kkShWihXii相应点的输出:
yhF(s:)F(WihXk)i同样,输出层j结点的输入加权和为:
kkk、SjWhjYhWhjF(WihXi)hhi相应点的输出:: .
BP算法推算过程当加入第k个输入时,隐蔽层h结点的输入加权和为kkShWihXii相应点的输出:
yhF(s:)F(WihXk)i同样,输出层j结点的输入加权和为:
kkk、SjWhjYhWhjF(WihXi)hhi相应点的输出:
ykF(sk)F(Whjy:)F[WhjF(WihXk)]
hhi
这里,各结点的阈值等效为一个连接的加权B=WOh或W这些连接由各结点连到具有固定值-1的偏置结点,其连接加权也是可调的,同其它加权一样参与调节过程。
误差函数为:
1E(W)T2k,j
k(Tjk
k21y:)22,t
k{TjkF[WhjF(WihXk)]}2hi
为了使误差函数最小,用梯度下降法求得最优的加权,权值先从
输出层开始修正,然后依次修正前层权值,因此含有反传的含义EkkkkWhjWhj(Tjyj)F(Sj)yhk根据梯度下降法,由隐蔽层到输出层的连接的加权调节量为其中jk为输出结点的误差信号
E(W)对w求导,因此利用分层链路法,有:
k
Wih
{(「kyk)F(sk)WhF(sh)xk}
k,j
W,必须考虑将
yhEE
WihkwihkyhkkhjkWhjF(Sh)Xikikk,j对于输入层到隐蔽层结点连接的加权修正量厶其中:
F(sh)Whj?F(sh)kWhjj可以看出,式(1)和(2)具有相同的形式,所不同的是其误差值的定义,所以可定义BP算法对任意层的加权修正量的一
BP算法推算过程 来自淘豆网m.daumloan.com转载请标明出处.