关于 猫女2代迷情药无记忆哪买【V信;799.196.362】丛 的搜索结果,共788
1****6 2018-07-10
感分析
长短期网络(LSTM) 对于较长的序列数据,循环神经网络的训练过程中容易出现梯度消失或爆炸现象[6]。为了解决这一问题,Hochreiter S, Schmidhuber J. (1997)提出了LSTM(long short term memory[5])。 相比于简单的循环神经网络,LSTM增加了单元cc、输入门ii、遗忘门ff及输出门oo。这些门及单元组合起来大大提升了循环神经网络处理长序列数据的能力。若将基于LSTM的循环神经网络表示的函数为FF,则其公式为: ht=F(xt,ht−1)ht=F(xt,ht−1) F由下列公式组合而成[7]: 其中,分别表示输入门,遗忘门,单元及输出门的向量值,带角标的W及b为模型参数,tanh为双曲正切函数,⊙表示逐元素(elementwise)的乘法操作。输入门控制着新输入进入单元cc的强度,遗忘门控制着单元维持上一时刻值的强度,输出门控制着输出单元的强度。三种门的计算方式类似,但有着完全不同的参数,它们各自以不同的方式控制着单元cc,如图3所示: 图3.
TOP