使用自定义RNN层的自定义模型中缺少状态参数
在自定义RNN层的自定义模型中，缺少状态参数可能会导致模型无法正确地记忆和处理序列数据。状态参数在RNN中起着重要的作用，它们用于存储和传递模型在处理序列数据时的内部状态。
RNN（循环神经网络）是一种能够处理序列数据的神经网络模型。它通过在每个时间步上引入状态参数，使得模型能够记忆之前的信息并在当前时间步上进行处理。这种记忆能力使得RNN在自然语言处理、语音识别、时间序列预测等任务中表现出色。
在自定义RNN层的自定义模型中，状态参数通常由隐藏状态（hidden state）和记忆状态（memory state）组成。隐藏状态用于存储模型在当前时间步上的输出和记忆，而记忆状态用于存储模型在之前时间步上的记忆。这些状态参数在每个时间步上都会被更新和传递，以便模型能够正确地处理序列数据。
缺少状态参数可能会导致以下问题：
- 信息丢失：没有状态参数，模型无法记忆之前的信息，导致无法正确地处理序列数据。模型可能无法捕捉到序列中的长期依赖关系，影响模型的性能和准确性。
- 过拟合：缺少状态参数可能导致模型过拟合训练数据，因为模型无法记忆之前的信息，无法对序列数据进行有效的泛化。这可能导致模型在训练数据上表现良好，但在新数据上表现较差。
为了解决这个问题，可以在自定义RNN层的自定义模型中添加状态参数。具体而言，可以使用TensorFlow或PyTorch等深度学习框架提供的RNN层，并将其嵌入到自定义模型中。这些RNN层会自动处理状态参数的更新和传递，确保模型能够正确地处理序列数据。
对于自定义模型中缺少状态参数的解决方案，可以参考以下步骤：
- 导入所需的深度学习框架，如TensorFlow或PyTorch。
- 在自定义模型中引入RNN层，例如使用TensorFlow的
tf.keras.layers.SimpleRNN或PyTorch的torch.nn.RNN。 - 在模型的初始化函数中定义RNN层，并设置相应的参数，如隐藏单元数、激活函数等。
- 在模型的前向传播函数中使用RNN层，将输入数据传递给RNN层进行处理。
- 根据具体任务的需要，可以在RNN层后添加其他层，如全连接层、池化层等。
- 根据模型的训练和评估需求，定义相应的损失函数和优化器，并进行模型的训练和测试。
在腾讯云的产品中，推荐使用腾讯云的AI Lab平台（https://cloud.tencent.com/product/ailab）来构建和训练自定义RNN模型。AI Lab平台提供了丰富的深度学习工具和资源，可以帮助开发者快速构建和训练自定义模型。
总结起来，自定义RNN层的自定义模型中缺少状态参数会导致模型无法正确地处理序列数据。为了解决这个问题，可以使用深度学习框架提供的RNN层，并将其嵌入到自定义模型中。腾讯云的AI Lab平台是一个推荐的工具，可以帮助开发者构建和训练自定义RNN模型。
相关·内容
一个简单的提示是值得欣赏的。我们如何使用Keras融合来自2个不同网络的特征表示输出？
更多解释:该模型由CNN和门控RNN组成。，并馈送到标准softmax回归分类器。
浏览 10提问于2017-02-07得票数 2
3回答
我有一个这样的SimpleRNN：
model.add(SimpleRNN(10, input_shape=(3, 1)))
model.add(Dense(1, activation="linear"))
模型摘要中写道：
simple_rnn_1 (SimpleRNN) (None, 10) 120
我对simple_rnn_1的参数号120很好奇。
有人能回答我的问题吗？
浏览 2提问于2018-05-02得票数 8
我有多个RNN层，现在设置如下：
stack = tf.nn.rnn_cell.MultiRNNCell([
tf.nn.rnn_cell.GRUCell(num_hidden, activation=clipped_relu)
for _ in range(num_rnn_layers)
])
但是我试图使用将层规范化添加到RNN层中。我尝试过许多不同的设置，但无法编译模型。
有人这样做了吗？如果是的话，你是如何实现的呢？
浏览 2提问于2017-06-17得票数 0
回答已采纳
我试图用Keras来实现一个视觉讲故事模型，它有一个层次RNN模型，基本上是一个神经图像描述器的样式，但是在解码器RNN上有一个双向RNN的一系列照片上。
我分别实现并测试了该模型的三个部分: CNN、BRNN和解码器RNN，但是当试图连接它们时，得到了这个错误：
ValueError:对于渐变操作，没有任何操作。请确保您的所有操作都定义了一个梯度(即可微性)。无梯度的普通操作: K.argmax，K.round，K.eval。
我的代码如下：
#vgg16 model with the fc2 layer as output
cnn_base_model = self.cnn_mod
浏览 0提问于2018-03-24得票数 6
1回答
我正在用pytorch创建一个RNN，如下所示：
class MyRNN(nn.Module):
def __init__(self, batch_size, n_inputs, n_neurons, n_outputs):
super(MyRNN, self).__init__()
self.n_neurons = n_neurons
self.batch_size = batch_size
self.n_inputs = n_inputs
self.n_outputs = n_outputs
浏览 0提问于2019-02-18得票数 2
回答已采纳
我使用的是tensorflow.contrib.cudnn_rnn的CudnnGRU类，训练速度要快得多。然而，在训练之后，我需要将模型移动到一个不是基于CUDA的系统。那么，如何将CudnnGRU参数转换为正常的权重和偏差，然后将它们加载到tf.contrib.cudnn_rnn.CudnnCompatibleGRUCell中
浏览 0提问于2017-10-20得票数 4
1回答
我试图理解伯特的工作和输出，我想知道为什么伯特的每一层都有一个“隐藏状态”。
我理解RNN有一个“隐藏状态”，它被传递到每个时间步骤，这是以前输入的表示。但我读到伯特不是一个RNN，而是一个备受关注的CNN。
但是您可以输出BERT模型的每个层的隐藏状态。如果伯特不是RNN，它怎么会有隐藏的状态呢？
浏览 0提问于2020-01-20得票数 2
回答已采纳
1回答
我正在训练一个由CNN和RNN组成的模型，输入到不同的输入，输出将被输入到FCN。现在的问题是：
我可以在CPU上运行CNN，在GPU上并行运行RNN吗？
与Tensorflow一样：
with tf.device('/cpu:0'):
CNN...
with tf.device('/gpu:0'):
RNN...
浏览 0提问于2018-05-29得票数 0
回答已采纳
我在GPU支持下使用Tensorflow 1.1.0，我有以下功能：
def get_init_cell(batch_size, rnn_size, keep_prob=0.75, layers=2):
"""
Create an RNN Cell and initialize it.
:param batch_size: Size of batches
:param rnn_size: Size of RNNs
:return: Tuple (cell, initialize state)
"""
浏览 0提问于2017-05-08得票数 0
回答已采纳
1回答
实现子类模型和作为层的损失函数
、、、、
我想用一些输入来实现一个子类模型。一开始你会看到我的损失层。
class CTCLayer(layers.Layer):
'''
Implementation of loss layer.
Attributes
----------
name : str
Name of the last layer.
Methods
-------
call(y_true, y_pred)
'''
def __init__(self, name:str=No
浏览 12提问于2022-09-10得票数 0
2回答
我想知道在做情绪分析时如何使用RNN。
RNN的特点似乎是记住过去的事物，决定现在(未来)的价值，但我认为这种RNN的特征在分析情感时是无用的。
我很好奇，想知道如何通过记忆到目前为止出现的单词来进行情感分析。
我认为训练向量的方法是分析情感的唯一方法，它能显示出特定单词出现多少次。
如果某个RNN模型训练一个句子“好电影”并贴上“正面”标签，它能把一个新句子“电影好”预测成“积极”吗？
另外，如果一个正常的模型(刚刚完全连接的深层神经网络)训练一个句子“好电影”并贴上“正面”标签，这个模型很难将一个新句子“电影好”预测成“积极”吗？
浏览 0提问于2020-10-26得票数 6
我对tf.keras.Model进行了子类化，并在for循环中使用tf.keras.layers.GRUCell计算序列'y_t‘(n，timesteps，hidden_units)和最终隐藏状态'h_t’(n，hidden_units)。为了让我的循环输出'y_t'，我在循环的每一次迭代之后更新一个tf.Variable。用model(input)调用模型不是问题，但是当我用调用方法中的for循环对模型进行拟合时，就会得到一个TypeError或ValueError.。
请注意，我不能简单地使用tf.keras.layers.GRU，因为我正在尝试实现这个。本
浏览 1提问于2021-08-05得票数 0
回答已采纳
1回答
文中对ANN、RNN和LSTM神经网络进行了优化，使其包含三个隐层，每层有1000个隐藏单元。
我想在Keras中建模RNN模型。但是我的代码出错了！
我的代码：
model=Sequential()
model.add(SimpleRNN(1000,input_shape=(320,15),activation='relu'))
model.add(SimpleRNN(1000))
model.add(SimpleRNN(1000))
model.add(Dense(1600))
错误：
ValueError
浏览 0提问于2018-08-13得票数 2
回答已采纳
3回答
我目前正在尝试复制以下文章的结果。
我正在使用Keras和theano后端。在本文中，他谈到了控制最终软磁层的温度，以给出不同的输出。
温度。在采样过程中，我们也可以使用Softmax的温度。将温度从1降到一些较低的数(例如0.5)，使RNN更有信心，但在样本中也更保守。相反，较高的温度会带来更多的多样性，但代价是更多的错误(例如拼写错误等)。尤其是，将温度定得非常接近于零度会给出保罗·格雷厄姆最有可能说的话：
我的模型如下。
model = Sequential()
model.add(LSTM(128, batch_input_shape = (batch_size, 1, 25
浏览 3提问于2016-05-16得票数 16
我想使用tensorflow将序列数据训练到具有一些零填充的Rnn基本模型。
我希望模型在训练时忽略0值。
我需要设置参数才能做到这一点吗？或者模型会自动忽略零吗？
谢谢，
浏览 2提问于2021-05-20得票数 0
我在TF 1.1.0上使用了几个时间序列作为特征(3个特征作为输入)到LSTM模型(1个回归输出)中。main函数启动一个会话，如下所示：
model = SKCompat(learn.Estimator(model_fn=lstm_model,
model_dir=LOG_DIR,
params={'learning_rate': Learning_rate}))
model.fit(trainX, trainY, steps=steps)
lstm_model的功能主要有：
lstm_cell = tf.contri
浏览 2提问于2017-05-13得票数 0
我试图在tensorflow中创建自己的自定义层，如下所示：
class custom_LSTM(RNN):
# implementation of class
其中RNN是另一个类。
但是，要在模型中使用这个自定义层，它需要继承tf.keras.layers.Layer。我正在使用tf.keras创建模型。
知道我该怎么解决这个问题吗？
浏览 0提问于2019-01-07得票数 1
要创建RNN单元，可以使用像GRUCell和LSTMCell这样的类来创建RNN层。
还有另外两个类，如CudnnGRU和CudnnLSTM，它们可以直接用于创建RNN层。
在文档中，他们说后一个类有cuDNN实现。当我创建一个cuDNN模型时，为什么要使用或不使用这个RNN实现的类而不是经典的RNN实现呢？
浏览 7提问于2017-10-16得票数 0
回答已采纳
1回答
我在使用用函数API编写的keras RNN进行掩蔽时遇到了一些问题。其想法是用形状(batch_size，timesteps，100)掩盖张量，零填充，并将其输入到SimpleRNN中。现在我有以下几点：
input = keras.layers.Input(shape=(None, 100))
mask_layer = keras.layers.Masking(mask_value=0.)
mask = mask_layer(input)
rnn = keras.layers.SimpleRNN(20)
x = rnn(input, mask=mask)
但是，这不起作用，因为它引发了
浏览 1提问于2020-01-25得票数 1
回答已采纳
2回答
如何训练序列项的LSTM模型？
、、、、
我尝试在下一个篮子推荐中使用LSTM模型。我想应用与本文相同的方法：
在我的例子中，我有一些用户，他们在不同的时间购买一些物品。所以我的X数据设计如下：
user ID timestep sequence items
user1 1 array(1, 20)
user1 2 ...
user2 1 ...
user2 2 ...
us
浏览 5提问于2017-06-13得票数 8
我正在开发一个用于异常检测的LSTM自动编码器模型。我的keras模型设置如下：
from keras.models import Sequential
from keras import Model, layers
from keras.layers import Layer, Conv1D, Input, Masking, Dense, RNN, LSTM, Dropout, RepeatVector, TimeDistributed, Masking, Reshape
def create_RNN_with_attention():
x=Input(shape=(X_trai
浏览 1提问于2022-03-09得票数 1
回答已采纳
似乎在原则上，一个简单的RNN应该能够独立运行，因为它为每个输入生成输出和状态。我看到的所有示例都在RNN之后有一个密集的层，我的模型没有一个就不能构建。为什么会这样呢？
浏览 3提问于2019-03-27得票数 0
在阅读有关文本生成的递归神经网络时，我注意到一些例子被逐字生成文本，而另一些例子却没有具体说明原因。
那么，预测每单词文本的RNN模型和预测每字符文本的RNN模型有什么区别呢？基于单词的RNN需要更大的语料库吗？基于字符的RNN推广得更好吗？也许唯一的区别是输入表示(一次热编码，字嵌入)？为文本生成选择哪一个？
浏览 0提问于2016-08-01得票数 19
回答已采纳
我的网络在我的数据集上达到96%的准确率(编辑:预测9个类)。每当我运行时，我都为每一个时代(包括重量)保存了整个模型。我运行了3次，每次测试不同的超参数，每次达到96%的准确率。
当我尝试加载任何这些测试，并再次运行，它达到了大约50%的准确性。我非常有信心在同一个数据集中运行它。
有趣的是:如果我训练一个完全相同的架构、相同的大小、形状等的新网络实例，它的准确率只有85%。此外，保存和加载这些新的训练模型工作正常，因为在模型中将达到同样的85%的准确性。
所以，加载没有问题，我的数据集也没有问题。唯一可能发生这种情况的方法是，如果我的自定义层有问题，或者发生了其他事情。
不幸的是，我还没有
浏览 1提问于2018-08-17得票数 2
回答已采纳
我正在使用PyTorch中的RNN构建一个文本分类器。我使用的嵌入是GLOVE。但是，我将可变长度索引引用提供给模型。这将导致可变长度嵌入，我认为这不会起作用。我如何解决这个问题，并使嵌入输出的所有句子的长度相同？
def forward(self, sentence):
embeds = self.embedding(sentence)
hidden = self.__init__hidden(size)
output, hidden = self.rnn(embeds, hidden)
out = self.hidden2o
浏览 12提问于2021-04-21得票数 3
1回答
我正在学习如何构建一个基于seq2seq的模型，并试图通过为编码器和解码器堆叠多个RNN层来扩展它。但是，我在检索对应于编码器隐藏状态的输出时遇到了问题。
下面是我在编码器中构建叠加的双向GRUCell层的代码：
# Encoder initializer
def __init__(self, n_layers, dropout, ...):
...
gru_cells = [layers.GRUCell(units,
recurrent_initializer='glorot_uniform',
浏览 4提问于2020-06-27得票数 0
回答已采纳
我正在使用一个去噪RNN自动编码器与运动捕获数据相关的项目。这是我第一次使用自动编码器架构，我只是想知道在这些模型中应该放置哪些非线性，以及它们应该去哪里。这是我现在的模型：
class EncoderRNN(nn.Module):
def __init__(self, input_size, hidden_size, num_layers):
super(EncoderRNN, self).__init__()
self.input_size = input_size
self.hidden_size = hidden_size
浏览 0提问于2019-12-12得票数 0
我试图使用Python中的Keras库为两层SimpleRNN模型创建一个模型。我不太明白keras模型层是如何工作的，所以我不太明白如何得到我想要的结果，或者如何修复我正在接收的错误。
第一个SimpleRNN层需要64维并输出状态序列，而第二个层必须有64维并输出最终状态。
我目前有：
import tensorflow.keras.models as models
import tensorflow.keras.layers as layers
model_simple_rnn = models.Sequential([
layers.Embedding(
浏览 5提问于2021-04-02得票数 2
1回答
我知道如何在Keras中将不同的模型合并为一个模型。
first_model = Sequential()
first_model.add(LSTM(output_dim, input_shape=(m, input_dim)))
second_model = Sequential()
second_model.add(LSTM(output_dim, input_shape=(n-m, input_dim)))
model = Sequential()
model.add(Merge([first_model, second_model], mode='concat'))
浏览 4提问于2017-04-26得票数 0
回答已采纳
TensorFlow中完全自定义的层会自动在GPU上运行吗？我注意到在这个文档()中，RNN似乎不会使用CudNN？这意味着它不会在GPU上运行，对吧？
浏览 6提问于2020-04-25得票数 0
回答已采纳
4回答
我想知道如何在Tensorflow中使用多层双向LSTM。
我已经实现了双向LSTM的内容，但是我想将这个模型与添加多层的模型进行比较。
我该如何在这个部分中添加一些代码？
x = tf.unstack(tf.transpose(x, perm=[1, 0, 2]))
#print(x[0].get_shape())
# Define lstm cells with tensorflow
# Forward direction cell
lstm_fw_cell = rnn.BasicLSTMCell(n_hidden, forget_bias=1.0)
# Backward directi
浏览 11提问于2017-09-13得票数 8
回答已采纳
2回答
用深度学习进行特征提取，同时利用传统机器学习或增强技术进行分类，是否合乎逻辑？
如果使用ML算法进行分类，而不是用深度学习方法进行特征提取，那么使用ML算法可以吗?我知道，如果特征工程成功，该模型将自动取得良好的效果。
例如:如果我想做一个文本分类问题，我是否可以建立这样一个模型( RNN块的堆栈+ Adaboost)，其中RNN块执行特征提取，Adaboost进行分类？说得通吗？
我提出了一种采用集成深度学习框架进行特征提取的体系结构，但是，我是否可以将集成框架与传统的ML或增强算法结合起来进行分类呢？会不会是件多余的事？
浏览 0提问于2022-10-27得票数 1
希望你们都做得很好！
我正在使用LibriSpeech数据集进行自动语音识别。在对音频数据进行预处理并应用"MFCC特征化“之后，我将所有内容添加到列表中并获得(14174,)的形状。知道每个样本有不同的长度，但是有相同数量的特性，例如：
print(X[0].shape)
print(X[12000].shape)
>> (615, 13)
>> (301, 13)
现在，当我用定义为
input_data = Input(name='the_input', shape=(None, input_dim)) # with input_dim =
浏览 0提问于2020-07-01得票数 0
1回答
修改残差LSTM
、、、
我在这里找到了剩余LSTM的一些代码：https://gist.github.com/bzamecnik/8ed16e361a0a6e80e2a4a259222f101e 我一直在使用LSTM对具有3d输入(样本、时间步长、特征)和单一输出的时间序列进行分类。我有兴趣在我的数据上尝试残差模型，但我需要的是具有sigmoid激活的单个输出。有人知道怎么做吗？当前模型似乎返回10个输出(输入数据中的特征数量)。 def make_residual_lstm_layers(input, rnn_width, rnn_depth, rnn_dropout):
"""
浏览 52提问于2020-07-15得票数 1
回答已采纳
2回答
我正在使用tensorflow实现文本摘要的seq2seq模型。对于编码器，我使用双向RNN层。编码层： def encoding_layer(self, rnn_inputs, rnn_size, num_layers, keep_prob,
source_vocab_size,
encoding_embedding_size,
source_sequence_length,
emb_matrix):
embed =
浏览 15提问于2019-02-05得票数 1
我一直在尝试将更新到TensorFlowie0.12的最新版本，但我在训练lstm模型的自定义模型函数定义中遇到了一个问题。
def _lstm_model(X, y):
stacked_lstm = tf.nn.rnn_cell.MultiRNNCell(
lstm_cells(rnn_layers),
state_is_tuple=True)
global_step = tf.Variable(0, trainable=False)
X = tf.cast(X, tf.float32)
y = tf.cast(y, tf.floa
浏览 0提问于2017-01-06得票数 0
对不起，我是刚开始机器学习和统计的。
对于时间序列预测，您是否使用RNN或其他什么？例如，过去两年的产品销售情况。
我对统计学家如何处理时间序列数据相当陌生。
我正在处理一些时间序列问题，我不确定是否应该把我所有的信任都放在RNN或其他DL模型上。
你觉得RNN模型怎么样？我的意思是，如果一切顺利的话，我就不用研究其他型号了
很抱歉，我不能在这里提供具体的数据，不知道它是否会造成模糊。但销售数据无疑是一个令人感兴趣的话题。
浏览 0提问于2023-02-13得票数 0
我试图训练一个编码器-解码器模型，以自动生成摘要。编码器部分使用CNN对文章的摘要进行编码。译码器部分是RNN，用于生成文章的标题。
所以骨架看起来是：
encoder_state = CNNEncoder(encoder_inputs)
decoder_outputs, _ = RNNDecoder(encoder_state,decoder_inputs)
但我想预先训练RNN解码器，教模型先学会说话。解码器部分是：
def RNNDecoder(encoder_state,decoder_inputs):
decoder_inputs_embedded = tf.nn.embed
浏览 5提问于2017-06-06得票数 0
回答已采纳
我正在尝试理解下面的代码，它是在python & tensorflow中的。我正在尝试实现一个手写文本识别。我指的是下面的代码here 我不明白为什么RNN输出要经过"atrous_conv2d“ 这是我的模型的架构，接受CNN输入并传递到这个RNN过程中，然后传递给CTC。 def build_RNN(self, rnnIn4d):
rnnIn3d = tf.squeeze(rnnIn4d, axis=[2]) # squeeze remove 1 dimensions, here it removes the 2nd index
n_hidden
浏览 26提问于2019-03-07得票数 0
当我试图使用TensorFlow创建一个LSTM时，我得到了以下错误：
ValueError: Shapes (?, 83) and (?, 128) are incompatible
对模型的输入具有以下形状：
(batch_size, time, features) / (50, 68, 83)
以下是该模型的相关代码：
x_text = tf.placeholder(tf.float32, [None, *text.shape[1:]])
cells = tf.contrib.rnn.MultiRNNCell([tf.contrib.rnn.ResidualWrapper(
t
浏览 0提问于2018-06-25得票数 1
回答已采纳
1回答
我试图在tensorflow中编写一个简单的RNN，基于这里的教程： (我使用的是一个简单的RNN单元而不是GRU，而不是退出)。
我很困惑，因为我的序列中不同的RNN细胞似乎被分配了不同的权重。如果我运行以下代码
import tensorflow as tf
seq_length = 3
n_h = 100 # Number of hidden units
n_x = 26 # Size of input layer
n_y = 26 # Size of output layer
inputs = tf.placeholder(tf.float32, [None, se
浏览 4提问于2017-09-24得票数 0
回答已采纳
下面是RNNs模型。
在角码中，以下代码的输出形状为(N,10)。
model=Sequential()
model.add(RNN(10, input_shape=(1, look_back)))
我知道N在输出形状(N,10)是batch_size。
我想知道的是'10‘是
浏览 2提问于2017-11-18得票数 0
回答已采纳
我的目标是在Keras/TensorFlow中构建一个RNN，它由多个递归单元(GRU、LSTM等)组成。以及从网络底部到顶部的循环，添加注意机制或特殊的内存类型。我不熟悉符号循环，所以首先我尝试按照以下思路构建一个展开的模型：
据我所见，我需要这样做的是一个具有两个输入张量和两个输出张量的RNN层，因为我需要自己“路由”RNN层(green)的内部输入/输出，以便与大循环(蓝色)同时展开这些连接。
我可以处理使用凹层和自定义拆分层( )实现展开的大循环，但是对于RNN层，我遇到了一个问题，因为我似乎无法使用更原始的层(密集层、激活层等)来模拟它们。在重新实现它们之前，我可以指定单
浏览 1提问于2018-02-15得票数 3
回答已采纳
我正在尝试使用一个简单的RNN来使用Physionet数据库来预测帕金森氏步态。我为RNN提供了高度为240，宽度为16像素的图像。我还使用模型检查点和监视器验证准确性来保存最佳权重。当我尝试将形状输入到RNN时，我得到的错误是 ValueError: Input 0 of layer sequential_13 is incompatible with the layer: expected ndim=3, found ndim=4. Full shape received: (None, None, None, None) RNN模型： model = Sequential()
mod
浏览 178提问于2021-10-24得票数 0
我有一个顺序数据集，由两种不同类型的事件(例如A和b事件)组成，特征向量具有不同的大小，即所有A事件都用a维特征向量描述，而所有B事件都用b维特征向量描述，a != b。
请注意，这不是关于可变大小的序列(尽管这里也是如此)，而是由可变大小的向量组成的序列。
我的问题是如何在keras中建立一个RNN (LSTM)，以便从这些序列中学习？
我不想将其简化为分别对A和B事件进行两个不同的RNN培训，因为我需要维护事件{A1、A2、B1、A3、B2、.}的顺序性质。
这就好像我需要一个具有条件输入形状的RNN模型，如果x属于A，则为(None，a)，否则为(None，b)。
我想知道backend
浏览 0提问于2019-02-01得票数 1
1回答
在不同类型土壤中，饱和后土壤水分行为有多个时间序列(约200)。它们都是相同的长度和几乎相同的形状，只是由于不同土壤性质的影响，它们的极限值和土壤水分下降速率不同。
我需要的是一个RNN模型，它可以用一个序列作为输入来预测时间序列。这个RNN必须能够检测到，至少在内部，输入序列所对应的200个训练序列中的哪一个，然后预测下一个值。这样的事有可能吗？我试着把所有的时间序列串联成一个，我训练了一个RNN，它有3层和不同数量的隐藏单元，但是我没有得到好的结果。我应该增加模型的复杂性还是尝试一种新的方法？
浏览 0提问于2022-10-26得票数 1
回答已采纳
我试图预测具有外生变量的时间序列，并且已经成功地使用SARIMAX模型进行预测，我也尝试使用RNN模型(特别是LSTM模型)做同样的事情，但无法找到任何方法来实现外生变量(我有完整的历史记录)，但是这个变量会影响时间序列，因此需要考虑在内。非常感谢您的帮助谢谢
浏览 3提问于2020-06-12得票数 3
我的理解是，translate.py实现了一个编码器-解码器模型，其中一个步骤是将句子从输入语言翻译成固定长度的向量。根据我在上的帖子和我自己对代码的调查，我认为句子嵌入应该存储在embedding_attention_seq2seq/RNN/EmbeddingWrapper/embedding:0.中但这是一个形状变量，对应于我输入的词汇表大小X rnn层大小。我不明白我如何从概念上将其解释为句子的编码。我的理解中的错误在哪里？
浏览 2提问于2017-01-12得票数 1
1回答
训练一些嵌入，保持其他的固定
、、、、
我用Keras做序列分类，使用RNN和嵌入。我的序列有点奇怪。我有混合了特殊符号的单词。单词与固定的、预训练的嵌入相关联，但特殊的符号嵌入必须在训练期间进行修改。
在学习过程中的嵌入层中，我如何在更新其他嵌入的同时保持某些嵌入的固定？有没有办法屏蔽那些不应该修改的索引？或者这是自定义嵌入层的情况？
浏览 11提问于2016-08-15得票数 1
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储活动推荐
腾讯云开发者
