文章目录
lstm原理
rnn
lstm实例
lstm原理
文本相关。主要应用于自然语言处理(NLP)、对话系统、情感分析、机器翻译等等领域,Google翻译用的就是一个7-8层的LSTM模型。...np.concatenate(successive_outputs, axis=0)
rnn 优点: 效果肯定比DNN好,毕竟有中间状态的信息输入
rnn 缺点: 梯度消失,导致长跨度的时间序列模型无法训练.
lstm...实例
lstm就是解决RNN梯度消失的问题....如下:output_t = activation(dot(state_t, Uo) + dot(input_t, Wo) + dot(C_t, Vo) + bo)
传送带上的状态更新就是LSTM的重点了...:, :-1], test[:, -1]
train_X = train_X.reshape((train_X.shape[0], 1, train_X.shape[1])) #reshape输入为LSTM