训练LSTM模型
LSTM模型（Long Short-Term Memory，长短期记忆模型）是一种循环神经网络（Recurrent Neural Network，RNN）的变体，专门用于处理具有长时依赖关系的序列数据。相比于传统的RNN，LSTM模型在处理长序列时更加有效。
LSTM模型的结构包含输入门（input gate）、遗忘门（forget gate）、输出门（output gate）和记忆单元（memory cell）。这些组件共同协作，使得LSTM能够有效地记忆和利用过去的信息，从而更好地处理序列数据。
LSTM模型的优势包括：
- 解决了传统RNN中的梯度消失和梯度爆炸问题，能够更好地处理长序列数据；
- 能够自动学习并选择性地忽略不相关的信息，从而更好地捕捉序列中重要的特征；
- 具有记忆能力，能够在长序列中长时间保持信息；
- 可以适用于各种任务，如自然语言处理、语音识别、时间序列预测等。
LSTM模型在实际应用中具有广泛的应用场景，包括但不限于：
- 自然语言处理：如文本分类、情感分析、机器翻译等。
- 语音识别：用于语音信号的建模和特征提取。
- 时间序列预测：如股票价格预测、天气预测等。
- 图像处理：如图像标注、图像生成等。
- 视频处理：如视频分类、动作识别等。
- 推荐系统：用于用户行为预测和个性化推荐。
腾讯云提供了多个与LSTM模型相关的产品和服务，包括但不限于：
- 腾讯云AI开放平台：提供了各种人工智能服务和工具，可用于训练和部署LSTM模型。详细信息请参考：腾讯云AI开放平台
- 腾讯云云服务器（CVM）：提供高性能、可扩展的云服务器实例，可用于训练和部署LSTM模型。详细信息请参考：腾讯云云服务器
- 腾讯云云数据库MySQL版：提供高性能、可扩展的云数据库服务，可用于存储LSTM模型的训练数据和结果。详细信息请参考：腾讯云云数据库MySQL版
- 腾讯云弹性伸缩：提供自动伸缩的计算资源，可用于根据需要动态调整LSTM模型的训练和推理环境。详细信息请参考：腾讯云弹性伸缩
以上是关于LSTM模型的基本概念、优势、应用场景以及腾讯云相关产品的简要介绍。请注意，这只是一个概述，并不能穷尽LSTM模型和相关技术的全部内容。如果需要深入了解，请参考相关的学术论文和专业书籍。
相关·内容
我已经用W- LSTM，b-lstm，Wy，by等参数训练了一个用于预训练的lstm模型L1。
假设Wy2和by2，我想用不同的Wy和by训练一个新的LSTM模型L2。
那么，如何仅从L1恢复W-lstm和b-lstm，并启动Wy2和by2呢？然后是训练。
saver.restore()？
谢谢。
浏览 10提问于2016-07-23得票数 0
1回答
我有一个具有不同配置文件的用户的timeseries数据集。我想使用lstm来预测每个用户提前一天的时间。我解决这个问题的方法是首先对具有相同行为的用户进行聚类。然后，在每个组中训练不同的lstm模型，以便每个lstm模型将负责该用户组，并使用该组的时间序列数据进行训练。在测试场景中，我将首先找到新用户的簇，然后根据训练好的相应簇的lstm进行预测。使用这种方法，我希望最小化模型的rmse。我已经开始使用库来对数据进行聚类。
我的问题与使用lstm有关。lstm是我方法的一部分吗？我应该使用一个全局lstm来训练不同的集群，还是应该为集群分离lstm模型？我是lstm及其特性的新手，因此任何帮
浏览 1提问于2020-09-02得票数 0
如何在PyTorch中从预先训练好的模型中获取权重并在TensorFlow中使用？
这是预先训练好的模型：
lstm = torch.hub.load("BruceWen120/medal", "lstm")
浏览 3提问于2021-11-28得票数 0
我有一系列可用的数据。我可以使用这个数据集来训练LSTM模型。假设我使用t，t+1，...，t+5来训练我的模型并预测t+6
然而，在训练模型之后。我正在寻找一种只使用初始步骤(T)来预测t+6的方法。
使用LSTM可以做到这一点吗，或者唯一的方法是通过训练中使用的所有时间步长来提供它。
谢谢
浏览 14提问于2021-03-01得票数 0
1回答
我尝试在Keras中使用带有LSTM层的自动编码器模型来检测文本异常值。我已经将每个句子编码成一个数字序列，每个数字代表一个字母。 到目前为止，我已经训练了一个具有固定长度输入的模型，通过向4000个序列中的每个序列填充零，直到maxlength = 40，从而使用4000,40,1形状的阵列(batch_size，时间步长，特征)来训练模型。 现在我想知道如何使用这样的自动编码器模型，而不是将零填充到每个序列(句子)，从而使用每个句子(序列)的实际大小进行训练和预测。 目前，我已经标准化了每个序列，因此我的训练数据(x_train)是一个数组列表，列表中的每个数组表示不同长度的标准化数字序
浏览 17提问于2019-09-20得票数 2
回答已采纳
我想使用一个(2层)预训练的LSTM模型，并且我想在最后一个密集层之前添加一个新的LSTM层。所以我要添加的层将是第三层。因为预训练模型的第二个LSTM已经设置了return_sequences=True。我无法添加第三个LSTM层。如何使用LSTM更改预训练模型的任何层的配置，以添加另一个LSTM层。我不热衷于制作模型的另一个副本和复制权重。我想要改变现有的模型本身。 我试着这样做： model.layers[-1].return_sequences=True 此语句不会生成任何错误。但是图层配置仍然显示return_sequences=False 我还尝试显式地更改layer的配置，如下
浏览 10提问于2019-09-18得票数 1
我想在Tensorflow中实现一个带有预先训练好的权重的LSTM模型。这些重量可能来自Caffee或Torch。
我发现在文件rnn_cell.py中有LSTM单元，比如rnn_cell.BasicLSTMCell和rnn_cell.MultiRNNCell。但是如何为这些LSTM单元加载预先训练好的权重呢？
浏览 0提问于2016-06-26得票数 5
我正在使用一些代码来训练lstm来生成序列。训练模型后，调用lstm()方法： x = some_input
lstm_output, (h_n, c_n) = lstm(x, hc)
funcc = nn.Linear(in_features=lstm_num_hidden,
output_features=vocab_size,
bias=True)
func_output = func(lstm_output) 我已经阅读了nn.Linear()的文档，但我仍然不理解这个转换是做什么的，以及为什么它是必要的。如果
浏览 52提问于2019-09-24得票数 1
1回答
我是机器学习和深度学习的新手。
训练模型为一次运行(一次) :
我训练了我的LSTM classifier model for one time (single run)并绘制了下面的图表。我检查了metrics (accuracy, precision, recall)，这对于培训、验证和测试都很有说服力。
对模型进行了多次训练(5次) :
虽然低LSTM是随机的，但我想了解它的train_loss & valid_loss行为。因此，我将ran the LSTM model 5 times和train_loss & valid_loss绘制成一个图，如下所示
浏览 0提问于2019-07-22得票数 0
回答已采纳
我应该将0到1或-1和1之间的LSTM输入数据标准化吗?为什么？规范输入数据会减少或改进LSTM模型的培训时间吗？这是因为我的LSTM模型训练时间太长，但效果很好。
浏览 1提问于2022-05-17得票数 -2
我构建一个LSTM，如下所示：
lstm_cell = tf.nn.rnn_cell.LSTMCell(n_hidden, forget_bias=1.0, state_is_tuple=True, activation=tf.nn.tanh)
lstm_cell = tf.nn.rnn_cell.DropoutWrapper(lstm_cell, output_keep_prob=0.5)
lstm_cell = tf.nn.rnn_cell.MultiRNNCell([lstm_cell] * 3, state_is_tuple=True)
然后我训练模型，并保存变量。下一次我加载保存的变
浏览 1提问于2016-12-16得票数 5
1回答
我在训练我的LSTM模型时遇到了很大的困难，它似乎根本不能学习。对于非常简单的模型(1层，很少的lstm单元)，训练损失几乎没有减少，精度也发生了变化，但最终停留在45%，就像更复杂的模型一样。大多数情况下，它只预测一个类作为输出。我尝试了改变所有的超参数，但它似乎并没有真正改变任何东西，所以我担心我遗漏了一些明显的东西。
这是我的模型：
Embedding_Model(nn.Module):
def __init__(self, dim, vocab_size, classes, lstm_units=100, num_layers=3, bidirectional=True):
浏览 42提问于2020-05-22得票数 0
1回答
我正在尝试使用RNN来使用LSTM。我做了LSTM模型，之后有两个DNN网络，一个回归输出层。
我训练了我的数据，最后的训练损失是关于0.009的。然而，当我将模型应用于数据测试时，损失就变成了0.5。
第一个时代的训练损失是关于0.5的。因此，我认为在测试模型中没有使用经过训练的变量.
训练和测试模型的唯一区别是批量大小。Trainning Batch = 100~200，Test Batch Size = 1.
在main函数中，我创建了LSTM实例。在LSTM不等式中，建立了模型。
def __init__(self,config,train_model=None):
self.
浏览 4提问于2016-08-23得票数 1
回答已采纳
我正在处理文档分类问题，并尝试应用基本的RNN/LSTM模型。
我制作了多层LSTM模型，并用15个时期进行了训练，但我获得了大约53%的训练准确率。41%的测试访问率。当我用更大的时代训练时，训练acc。增加和测试访问权限。下降到33%左右。
我知道如果测试访问。低于训练ac.，它可能是过拟合的。而过拟合的原因是，模型甚至训练了训练数据集的噪声。但我认为，如果发生了过度拟合，训练是可行的。必须是相当高的(80-90%)和测试访问。这比这要低得多，因为过拟合意味着模型对于训练数据集来说是“过拟合”的。
现在我想知道为什么当我用15个时期训练时，我的准确率降低了10%，而训练准确率只有53%。它
浏览 0提问于2020-04-24得票数 0
1回答
我有成千上万的视频，其中每一个都包括固定的帧数，也就是35帧。我试图通过训练LSTM模型来对视频进行分类。但我不知道人们如何保持视频的顺序结构，并训练一个LSTM模型。
因此，我想做的是；
从数据集读取视频
获取该视频的35帧，并通过CNN提取每帧的特征。
将这35帧功能提供给LSTM层-如何通过批处理将每个视频(35帧)提供给LSTM？
函数在中得到了广泛的应用。但是，，我不知道如何保持视频的顺序结构，同时将所有数据读取到内存中，以便使用fit函数.
rm.model.fit(X,y,batch_size=batch_size, validation_data=(X_te
浏览 8提问于2017-08-26得票数 1
1回答
我有一个简单的lstm模型
model =Sequential()
model.add(LSTM(100, activation='relu', input_shape=(n_input,n_features)))
model.add(Dense(1))
model.compile(optimizer='adam', loss='mse')
model.summary()
我对相同的数据进行训练和测试，但每次都得到不同的预测。为什么？
如果模型参数、训练和测试是相同的，为什么每次运行时预测都会发生变化？
如果结果不能重复，那么培训和测试lstm模
浏览 0提问于2022-03-12得票数 1
回答已采纳
我正在加载 (23094，71,768)，(23094，19,282)的预训练模型.
当我传递形状为(29116，72,768)的新X值时，当检查输入时会出现错误:期望的lstm_1_input具有形状(71,768)，但得到与形状(72,768)的数组。
这是我的模型总结:模型："sequential_1“
图层(类型)输出形状参数
lstm_1 (无，71,256个) 1049600
lstm_2 (无，71，64) 82176
lstm_3 (无，32) 12416
dense_1 (稠密)(无，5358) 176814
reshape_1 (重塑)(无，19,282)
浏览 2提问于2020-04-06得票数 0
1回答
计算火把中的困惑
、、、
我刚刚用pytorch训练了一个LSTM语言模型。这门课的主体是：
class LM(nn.Module):
def __init__(self, n_vocab,
seq_size,
embedding_size,
lstm_size,
pretrained_embed):
super(LM, self).__init__()
self.seq_size = s
浏览 4提问于2019-12-06得票数 7
回答已采纳
1回答
如何训练语音识别的lstm
、、、、
我正在尝试训练用于语音识别的lstm模型，但不知道要使用什么训练数据和目标数据。我使用的是，它包含音频文件和它们的文字记录。在这一点上，我知道目标数据将被矢量化文本文本。至于训练数据，我在考虑使用每个音频文件(或MFCC特征)中的频率和时间。如果这是解决问题的正确方法，训练数据/音频将是多个数组，我如何将这些数组输入到我的lstm模型中？我需要对它们进行矢量化吗？
谢谢!
浏览 1提问于2016-11-26得票数 5
回答已采纳
3回答
我使用来运行LSTM神经网络。
我已经开始训练神经网络，我发现它太慢了。它几乎比CPU训练慢三倍。
CPU perfomance:每周期8 min；
GPU perfomance:每小时26 min。
在此之后，我决定在中找到答案，我应用了一个CuDNNLSTM (它只运行在GPU上)，而不是LSTM。
因此，GPU的性能仅为1 min /a的，模型的准确性下降了3%。
问题：
1)有人知道为什么在经典的LSTM层中GPU的工作速度比CPU慢吗？我不明白为何会出现这种情况。
2)为什么当我使用CuDNNLSTM而不是LSTM时，训练速度更快，模型的准确性降低？
P.S.：
My
浏览 1提问于2018-09-24得票数 10
回答已采纳
我正在使用LSTM进行情绪分析，我有一个csv格式的数据集，其中有' sentiment '，'Tweet‘。Wor2vec模型是在这个数据集上训练的，但是现在我不知道如何将它作为输入提供给lstm。我试着用矢量替换csv文件中的单词，但我做不到。在构建lstm时是否需要使用任何查找方法，或者我们必须用向量替换csv文件中的单词，但如何做呢？
(我已经保存了经过训练的word2vec模型)
浏览 1提问于2018-05-12得票数 0
我已经使用GPU在tensorflow中使用CUDNNLSTM训练了一个模型。当我尝试在cpu中使用模型进行推理时，我得到了这个错误：
Invalid argument: No OpKernel was registered to support Op 'CudnnRNN' with these attrs. Registered devices: [CPU], Registered kernels:
<no registered kernels>
[[Node: cudnn_lstm/CudnnRNN = CudnnRNN[T=DT_FLOAT,
浏览 3提问于2018-05-02得票数 6
2回答
在我的数据集中，目标/输出变量是Sales列，数据集中的每一行都记录一年(2008-2017)中每一天的Sales。数据集如下所示：
我的目标是基于这样的数据集建立一个LSTM模型，该模型应该能够在训练结束时提供预测。我在2008-2016年的数据上训练这个模型，并使用2017年数据的一半作为验证，其余的作为测试集。
以前，我尝试使用dropout和提前停止来创建模型。如下所示：
mdl1 <- keras_model_sequential()
mdl1 %>%
layer_lstm(units = 512, input_shape = c(1, 3), return
浏览 0提问于2018-01-31得票数 3
1回答
我有一个预先训练好的模型，如下所示 Image 1 代码上面的模型是如下所示，这是如预期的工作，我已经将这个模型单独保存为".h5“keras格式 data= pd.read_csv('TrainPWM.csv')
data.values[:,0]
actual_pwm = data.values[:,0]
actual_rpm = data.values[:,1]
actual_pwm = np.reshape(actual_pwm,(36954,1,1))/10000
actual_rpm = np.reshape(actual_rpm,(36954,1,1))/
浏览 17提问于2019-08-28得票数 0
3回答
LSTM模型的随机性
、、、
我有一个LSTM模型，如下所示：
model = Sequential()
model.add(Conv1D(3, 32, input_shape=(60, 12)))
model.add(LSTM(units=256, return_sequences=False, dropout=0.25))
model.add(Dense(256, activation='relu'))
model.add(Dropout(0.5))
model.add(Dense(1))
model.compile(optimizer='adam', loss='mse'
浏览 1提问于2018-10-08得票数 0
1回答
我想训练一个模型(VGG+LSTM)，用于在视频序列中执行重新识别任务。我的代码的主要问题是，在我训练了模型之后，我想要进行推断，但LSTM似乎不起作用。(我连续9次向模型输入一张图片，但每次在lstm之后输出相同的向量，所以我认为一定是出了什么问题)。
Hear是我的。简单地说，我的lstm层是
layer {
name: "lstm"
type: "LSTM"
bottom: "Appearance_reshape"
bottom: "cont"
top: "lstm_out&#
浏览 2提问于2018-06-21得票数 0
1回答
Keras使用DB进行持续培训
、、、、
我是Keras的新手，仍然在寻找持续训练模型的方法。由于我的数据集非常大，无法存储在内存中，因此我应该存储在一个DB (NoSql DB- MongoDb或HBase)中，并以批处理的方式训练记录。我的模型LSTM -多输入和输出。我目前的训练和预测如下。 model = Sequential()
model.add(LSTM(64, input_shape=in_dim, activation="relu"))
model.add(Dense(out_dim))
model.compile(loss="mse", optimizer="adam
浏览 19提问于2020-07-29得票数 0
回答已采纳
1回答
我正在尝试训练Keras seq2seq编解码器模型，如下所示：
Layer (type) Output Shape Param # Connected to
==================================================================================================
enc_inputs (InputLayer) (None, None) 0
浏览 0提问于2018-08-27得票数 4
我正在尝试用tensorflow.js来建立和训练一个lstm网络，我的数据集就像
输入：“我不喜欢这些鞋，它们对我来说太黄了。所以把它们还给我。”预期输出原因：“颜色”
我可以使用预先训练的word2vec模型将文本表示为向量。我试着阅读了文档，但是我无法理解它，即使是从其他来源也找不到一个关于如何在tensorflow.js中实现和训练网络的好例子。
有谁能给出一个用node.js和tensorflow.js直接创建LSTM层并训练模型的例子吗？
浏览 2提问于2018-09-27得票数 4
回答已采纳
1回答
想象一下，您正在tensorflow中为序列分类任务训练一个LSTM模型。在每个时间步，你有一个二进制向量v_i (例如，v_i=[0, 1, 0, 1])，并且对于每个序列，你有可变数量的时间步(尽管二进制向量v_i的长度是相等的)。 在tensorflow中训练LSTM模型时，如下所示： lstm_cell=tf.nn.rnn_cell.LSTMCell(number_of_hidden)
tf.contrib.rnn.static_rnn (lstm_cell, training_data) 单个训练序列(具有三个时间步，v_1=[0, 1, 0, 1]，v_2=[1, 1, 1,
浏览 15提问于2019-06-18得票数 0
我在TF 1.1.0上使用了几个时间序列作为特征(3个特征作为输入)到LSTM模型(1个回归输出)中。main函数启动一个会话，如下所示：
model = SKCompat(learn.Estimator(model_fn=lstm_model,
model_dir=LOG_DIR,
params={'learning_rate': Learning_rate}))
model.fit(trainX, trainY, steps=steps)
lstm_model的功能主要有：
lstm_cell = tf.contri
浏览 2提问于2017-05-13得票数 0
1回答
是否可以使用set_weights和get_weights方案从经过训练的网络中将权重加载到我的新模型的最后一层？重点是，我将每一层的权重保存为mat文件(训练后)，以便在Matlab中进行一些计算，我只希望将最后一层的修改后的权重加载到新模型中的最后一层，而其他层则获得与训练模型相同的权重。这是一个位trickey，因为保存的格式是mat。 weights1 = lstm_model1.layers[0].get_weights()[0]
biases1 = lstm_model1.layers[0].get_weights()[1]
weights2 = lstm_model1.laye
浏览 37提问于2020-08-18得票数 0
回答已采纳
1回答
我正在开发一个基于LSTM的模型来预测日志异常。我的模型架构如下：
______________________Layer (type) Output Shape Param # =================================================================
lstm (LSTM) (None, 5, 1555) 9684540 ______________________
lstm_1 (LSTM) (None, 1555) 19350420 ______________________
dense (Dense) (None, 10
浏览 0提问于2020-06-10得票数 4
1回答
我想要创造一个生成的角色LSTM-网络。其思想是:该模型接受最后32个现有字符，并根据它们生成另一个字符。一次又一次。
下面是模型，非常简单：
model = Sequential([
Input(shape=[32, 1]),
LSTM(64, return_sequences=True),
LSTM(64),
Dense(len(corpus.keys()), activation='softmax', use_bias=False),
])
问题是:文字在文本中的频率是巨大的不同。最不频繁的字母出现326次，而最频繁的是56190次。看看酒
浏览 2提问于2020-10-20得票数 0
1回答
我正在尝试在Keras中训练一个包含LSTM的递归模型，用于回归目的。我想在网上使用这个模型，据我所知，我需要训练一个有状态的LSTM。由于模型必须输出一系列值，因此我希望它计算每个预期输出向量的损失。然而，我担心我的代码不能以这种方式工作，如果有人能帮助我了解我做得是否正确，或者是否有更好的方法，我将不胜感激。 模型的输入是128维向量的序列。训练集中的每个序列都有不同的长度。每次，模型都应该输出一个包含3个元素的向量。 我正在尝试训练和比较两个模型: A)一个有128个输入和3个输出的简单LSTM；B)一个有128个输入和100个输出的简单LSTM +一个有3个输出的密集层； 对于模型A
浏览 13提问于2019-09-26得票数 1
回答已采纳
1回答
我训练了一个具有大量数据的语音模型(使用CNTK)，并且需要将其调整为低资源语言。由于目标语言的数据量太小，我决定使用原始模型的前三层(作为常量)，并在顶部附加两个前馈层。我找不到一种明确的方法来做到这一点。
为了简单起见，假设我的原始模型是：
model1 = Sequential([Recurrence(LSTM(1024, use_peepholes=True)), Dense(40), Recurrence(LSTM(1024, use_peepholes=True)), Dense(256), Dense(num_classes1)])
我需要我的低资源模型是这样的：
model2
浏览 8提问于2017-03-09得票数 1
1回答
我使用Keras构建了一个用于文本分类的LSTM模型。现在我有了要训练的新数据。我没有附加到原始数据并重新训练模型，而是考虑使用模型权重来训练数据。即使用新数据进行训练的权重。然而，不管我训练的量有多大，模型都不能预测正确的分类(即使我给出相同的句子进行预测)。可能的原因是什么？请帮帮我。
浏览 1提问于2018-11-26得票数 0
2回答
我有一个经过训练的LSTM模型，包含1个LSTM层和3个密集层。我将其用于序列到一次预测。我有4个输入变量和1个输出变量。我使用最近20个时间步长的值来预测输出变量的下一个值。该模型的体系结构如下所示
model = Sequential()
model.add(LSTM(units = 120, activation ='relu', return_sequences = False,input_shape =
(train_in.shape[1],5)))
model.add(Dense(100,activation='relu'))
model
浏览 0提问于2021-02-16得票数 0
1回答
库实现了哪个精确的LSTM (长时记忆)神经网络模型？它是“基本”版本概述的，或者如果它是一个变化，如，它是哪一个？特别是，我需要知道确切的内部联系以及它们各自的激活函数。
我想知道这一点，因为我正在使用Keras来训练一个模型，我想用它在没有Python的设备上进行预测-因此我需要实现我自己的LSTM (并使用来自经过训练的Keras模型的权重)。
浏览 8提问于2017-05-26得票数 2
回答已采纳
1回答
我正在训练，以便弄清楚如何在模型创建过程中定义训练数据的输入形状，而不使用X_train。我知道LSTM网络只接受3D数组作为输入，我的数据是用这个for循环准备的 X_train = []
y_train = []
for i in range(10, 400):
X_train.append(training_set_scaled[i-10:i, 0])
y_train.append(training_set_scaled[i, 0])
X_train, y_train = np.array(X_train), np.array(y_train)
X_train = np
浏览 14提问于2020-07-28得票数 0
回答已采纳
3回答
我有用户的头像和时间序列数据(由这些用户产生的事件)。为了进行二分类，我编写了两个模型: LSTM和CNN，它们独立工作得很好。但我真正想要实现的是将这些模型连接起来。
下面是我的LSTM模型：
<code>A0</code>
CNN模型：
<code>A1</code>
以下是CNN的训练方式：
<code>A2</code>
将LSTM和CNN模型连接在一起的最佳方式是什么？
浏览 37提问于2019-03-31得票数 5
1回答
教LSTMs不同频率的概念
、、、、
用正弦波训练LSTM是很简单的。LSTM很容易理解如何预测未来数百步的波动。
然而，当我试图让LSTM预测一个不同频率的正弦波时，LSTM就变得非常无能。即使我试着在许多不同频率的波上训练它，它也会忘记第一波来学习下一波。当我更改测试数据的频率时，我的LSTM是如何失败的：
如何训练我的LSTM识别频率的概念和工作在任何正弦波？
编辑：
我所使用的模型：
inputs = Input(shape=(self.timesteps, self.features))
bd_seq = Bidirectional(LSTM(128, return_sequences=True,
浏览 1提问于2018-04-21得票数 4
回答已采纳
1回答
Keras扩展嵌入层输入
、、、
带有嵌入的keras序列模型需要从当前已知的权重开始重新训练。 在所提供的(文本)训练数据上训练Keras序列模型。训练数据由(定制的)标记器标记化。模型中第一层(嵌入层)的输入维度是标记器已知的单词数。 几天后，额外的训练数据就可用了。分词器需要在这个新数据上重新调整，因为它可能包含额外的单词。这意味着嵌入层的输入维度发生了变化，因此先前训练的模型不再可用。 self.model = Sequential()
self.model.add(Embedding(tokenizer.totalDistinctWords + 1,
hiddenSize + 1, batch_size=
浏览 10提问于2019-02-06得票数 1
我训练了一个双向的CuDNNLSTM文本分类模型，model.evaluate(x_test, y_test, batch_size=BATCH_SIZE)给了我[('loss', 0.39137715717178684), ('acc', 0.9012292817679558)]。这正是我所期待的！
现在，当我通过修改模型架构中的CuDNNLSTM > LSTM在新的双向LSTM模型中加载相同的模型权重(在CPU上运行该模型)时，我将在相同的测试数据上获得[('loss', 8.747908523430075), ('acc
浏览 0提问于2018-02-22得票数 2
回答已采纳
1回答
我正在使用LSTM+attention层来完成句子分类任务。我观察到，在简单的LSTM模型中，我的总可训练参数是14705，批处理大小为64，但当我将注意力层与LSTM一起使用时，对于相同的批处理大小，可训练参数减少到230。而对于批量为4的情况，则增加到3077。此外，由于在关注层中批处理大小为64，因此仅在历元中增加1。 这怎么可能呢？ 这是批大小为64的关注层的屏幕截图 ? 这是批处理大小为64的LSTM层的屏幕截图。 ?
浏览 10提问于2020-07-18得票数 0
2回答
虽然我试图实现一个用于轨迹分类的LSTM网络，但即使是简单的轨迹，我也一直在努力获得像样的分类结果。此外，我的训练精度一直在波动，没有明显增加，这也可以在tensorboard中看到：
训练准确率：
这是我的模型：
model1 = Sequential()
model1.add(LSTM(8, dropout=0.2, return_sequences=True, input_shape=(40,2)))
model1.add(LSTM(8,return_sequences=True))
model1.add(LSTM(8,return_sequences=False))
mode
浏览 1提问于2018-08-03得票数 1
4回答
有人能解释我如何在tensorflow中初始化LSTM的隐藏状态吗？我正在尝试构建LSTM递归自动编码器，因此在对该模型进行训练之后，我希望将无监督模型的学习隐藏状态转换为监督模型的隐藏状态。对于当前的API来说，这是可能的吗？这是我想要重现的一篇论文：
浏览 3提问于2017-02-23得票数 17
回答已采纳
我有一个pytorch模型：
model = torch.nn.Sequential(
torch.nn.LSTM(40, 256, 3, batch_first=True),
torch.nn.Linear(256, 256),
torch.nn.ReLU()
)
对于LSTM层，我只想从批处理中检索最后一个隐藏状态，以通过其余的层。例如：
_, (hidden, _) = lstm(data)
hidden = hidden[-1]
尽管如此，该示例仅适用于子类模型。我需要以某种方式在nn.Sequential()模型上执行此操作，这样当我保
浏览 5提问于2021-10-05得票数 0
我有一个预先训练的基于keras的双向LSTM模型。我想为前几层设置trainable false。但它不起作用。 classifier.layers[1].trainable=False 我还尝试使用config创建模型的虚拟副本，并将可训练键更改为false。但即使是虚拟模型的权重在训练后也会发生变化。
浏览 18提问于2019-09-20得票数 1
回答已采纳
我最近保存了一些我在另一台机器上训练过的模型，并且没有像我在另一个模型中所看到的那样保存它，并且使用了h5扩展。我还不知道如何装重物。我可以加载模型，但没有重量意味着什么都没有。请帮助:-)
from keras.models import load_model
from keras.models import model_from_json
model_LSTM_rendimiento = keras.models
model_LSTM_super = keras.models
model_LSTM_primero = keras.models
model_LSTM_rendimie
浏览 0提问于2022-09-22得票数 1
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM活动推荐
腾讯云开发者
