为什么我的LSTM自动编码器模型无法检测异常值？
LSTM自动编码器模型无法检测异常值的原因可能有以下几点：
- 数据分布不匹配：LSTM自动编码器模型在训练过程中学习了正常数据的分布，如果异常值的分布与正常数据差异较大，模型可能无法准确识别异常值。
- 数据量不足：如果异常值在训练数据中数量较少，模型可能无法充分学习到异常值的特征，导致无法检测。
- 模型复杂度不够：LSTM自动编码器模型的复杂度可能不足以捕捉异常值的复杂特征，需要考虑增加模型的复杂度或使用其他更适合异常检测的模型。
- 数据预处理不当：数据预处理过程中可能存在问题，例如异常值的处理方式不合理，或者异常值被过滤或平滑处理导致无法被模型检测到。
针对以上问题，可以尝试以下改进方法：
- 增加异常值样本：增加异常值样本的数量，使得模型能够更好地学习到异常值的特征。
- 使用更复杂的模型：考虑使用其他更适合异常检测的模型，例如基于统计方法的模型（如箱线图、Z-score等），或者使用深度学习中的其他模型（如变分自编码器、生成对抗网络等）。
- 调整模型参数：尝试调整LSTM自动编码器模型的参数，增加模型的复杂度，例如增加LSTM层数、隐藏单元数量等。
- 优化数据预处理：确保数据预处理过程中对异常值的处理方式合理，避免异常值被过滤或平滑处理掉。
腾讯云相关产品和产品介绍链接地址：
- 腾讯云机器学习平台（https://cloud.tencent.com/product/tensorflow）
- 腾讯云数据处理平台（https://cloud.tencent.com/product/dp）
- 腾讯云人工智能（https://cloud.tencent.com/product/ai）
- 腾讯云物联网平台（https://cloud.tencent.com/product/iotexplorer）
- 腾讯云移动开发平台（https://cloud.tencent.com/product/mobdev）
- 腾讯云存储服务（https://cloud.tencent.com/product/cos）
- 腾讯云区块链服务（https://cloud.tencent.com/product/bcs）
- 腾讯云元宇宙服务（https://cloud.tencent.com/product/vr）
相关·内容
我试图建立LSTM模型，作为输入接收整数序列，并输出每一个整数的概率。如果此概率较低，则应将整数视为异常。我试着遵循这个教程- ，尤其是我的模型来自这里。我的输入如下：
[[[3]
[1]
[2]
[0]]
[[3]
[1]
[2]
[0]]
[[3]
[1]
[2]
[0]]
然而，我无法理解我作为一个输出得到了什么。
[[[ 2.7052343 ]
[ 1.0618575 ]
[ 1.8257084 ]
[-0.54579014]]
[[ 2.9069736 ]
[ 1.0850943 ]
[ 1.9787762 ]
浏览 1提问于2020-05-11得票数 1
回答已采纳
1回答
我的目标是实现一个统一/多元在线异常检测系统。
经过几天的研究，我可以收集很多方法来达到这个目的。移动平均解如ARIMA，空间状态解如Kalman滤波器、Holt双/三重指数平滑、CUSUM、一类支持向量机、深度学习滑动窗口自动编码方法、基于自回归神经网络的深度学习等)。
一般来说，时间序列上的异常检测是以原始时间序列的预测点或一组点与预测时间序列之间的差异产生的偏差阈值为依据的。
注意到这一预测，这可能发生在：
一种预测方法(比如ARIMA，或者您也可以通过使用LSTM深度学习模型来实现这一结果)，
或以一种无法预测的方式(如。用自动编码器去噪就行了，或者分析推特使用的片段STL+ESD )
浏览 0提问于2019-01-23得票数 2
1回答
我正在应用LSTM自动编码器进行异常检测。由于与正常数据相比，异常数据非常少，因此仅使用正常实例进行训练。测试数据由异常实例和正常实例组成。在训练过程中，模型损失似乎很好。然而，在对数据进行测试时，该模型产生的准确性较差。也就是说，异常点和正常点没有很好地分开。
我的代码片段如下：
.............
.............
X_train = X_train.reshape(X_train.shape[0], lookback, n_features)
X_valid = X_valid.reshape(X_valid.shape[0], lookback, n_features
浏览 3提问于2019-11-07得票数 0
1回答
我有惯性测量单元(IMU)的数据，我正在为其构建一个异常检测自动编码器神经网络。我有大约5000个训练样本，其中10%用于验证。我还有大约50个(尽管我可以做更多)样本来测试异常检测。我的数据集有12个IMU特征。我训练了大约10,000个时期，在训练期间我获得了大约0.004的重建均方误差(MSE)。训练之后，我对测试数据执行MSE计算，得到的值与训练数据(0.003)中的值非常相似，我不知道为什么！ 我从总体数据(不是X_train的一部分)中切下50个样本，并将其中一个特征更改为全零，从而生成我的测试集。我还尝试向其中一个特征添加噪声，并将多个特征设为零。 np.random.seed
浏览 19提问于2020-06-19得票数 0
2回答
我的理解是，对于某些类型的seq2seq模型，您需要训练编码器和解码器，然后将编码器放在一边，只使用解码器进行预测。例如，优步的seq2seq时间序列预测模型：
📷
现在，我正试图在Keras中实现这个to版本。
这是普通LSTM的Keras代码：
# define model
model = Sequential()
model.add(LSTM(50, activation='relu', input_shape=(n_steps, n_features)))
model.add(Dense(1))
model.compile(optimizer='adam'
浏览 0提问于2019-07-27得票数 4
除了它们是神经网络，通常是优于其他算法的一个原因之外，还有其他原因帮助自动编码器在异常点检测方面表现良好吗？
我知道自动编码器的工作方式是将样本编码成更低维的表示，然后解码表示来重构样本。由于孤立点通常具有较高的重构能力，因此可以对其进行检测。然而，这并不能说服我为什么自动编码器可以击败其他方法。是不是因为离群点的误差很高，所以很容易被发现？如果是这样的话，是什么使重建误差如此之高？
欢迎直观和/或理论上的解释。
浏览 0提问于2020-07-20得票数 1
我试图找到正确的例子，使用LSTM自动编码器来定义时间序列数据中的异常，并看到了很多例子，其中LSTM自动编码器模型中有标签，这是特征序列未来的时间步骤(对于通常使用LSTM的时间序列预测)，但我认为这种模型应该使用与特征序列相同的标签(以前的时间步骤)来训练。
例如，搜索google中的第一个链接-
1.这个函数定义了获取标签(y特性)的方法。
def create_sequences(X, **y**, time_steps=TIME_STEPS):
Xs, ys = [], []
for i in range(len(X)-time_steps):
Xs
浏览 7提问于2020-11-23得票数 1
1回答
我试图把我的头围绕什么时候使用LSTM与一个自动编码器和何时使用一个没有。
谁有一个很好的经验规则，什么时候使用LSTM与自动编码器？我并不是想过于宽泛，而只是为了解决一些问题。
浏览 7提问于2022-08-12得票数 -1
2回答
注意力对自动编码器有意义吗？
、、、、
在自动编码器的背景下，我在努力思考注意力的概念。我相信我理解注意seq2seq翻译的用法--经过训练后，我们可以同时使用编码器和解码器来创建语言翻译(例如)。由于我们在生产中还在使用译码器，所以我们可以利用注意机制。
但是，如果自动编码器的主要目标是生成输入向量的潜在压缩表示，该怎么办？我说的是一些情况，在培训之后，我们基本上可以处理模型的解码器部分。
例如，如果我在没有注意的情况下使用LSTM，那么“经典”方法就是使用最后一个隐藏状态作为上下文向量--它应该表示输入序列的主要特性。如果我要注意地使用LSTM，我的潜在表示必须是每个时间步长的所有隐藏状态。这似乎不符合输入压缩和保留主要特性的概
浏览 6提问于2019-09-28得票数 17
1回答
Keras嵌入层引起维数问题
、、、、
我目前正在尝试在我的序列到序列自动编码器中包括一个嵌入层，它是用keras函数API构建的。
模型代码如下所示：
#Encoder inputs
encoder_inputs = Input(shape=(None,))
#Embedding
embedding_layer = Embedding(input_dim=n_tokens, output_dim=2)
encoder_embedded = embedding_layer(encoder_inputs)
#Encoder LSTM
encoder_outputs, state_h, state_c = LSTM(n_hidden
浏览 2提问于2018-12-17得票数 0
回答已采纳
1回答
我正在尝试检测控制电池电压输出的时间序列上的异常。我发现我的原始数据集有一些异常值。在这种情况下，我是否需要使用InterQuartile Range (IQR)或Zscore来删除这些点？当然，在使用LSTM keras模型之前
浏览 14提问于2021-03-04得票数 0
回答已采纳
在Scikit-Learn中，局部离群因子(LOF)算法被定义为一种无监督异常检测方法。
所以我不明白为什么这个算法需要预先过滤的训练数据。也许这里的“培训数据”仅仅意味着“数据开始？”但是SciKit- training提供的示例代码清楚地显示了没有异常的培训数据。这是否意味着，如果培训数据包含异常，该模型将无法工作？更重要的是，如何使用该算法在训练数据中发现异常？
这是网站。https://scikit-learn.org/stable/auto_例子/邻居/情节_洛夫_新颖性_detection.html#sphx-glr-auto-examples-neighbors-plot-lof
浏览 0提问于2019-02-04得票数 0
回答已采纳
所以我一直在研究LSTM Autoencoder model。我还创建了这个模型的各种版本。
1.使用已经训练过的单词嵌入来创建模型:在这个场景中，我使用了已经训练过的手套向量的权重，作为特征的权重(文本数据)。这是一个结构：
inputs = Input(shape=(SEQUENCE_LEN, EMBED_SIZE), name="input")
encoded = Bidirectional(LSTM(LATENT_SIZE), merge_mode="sum", name="encoder_lstm")(inputs)
e
浏览 0提问于2019-07-08得票数 0
回答已采纳
1回答
我正在尝试使用LSTM对输入数据进行编码，然后从编码的数据中解码/重新创建它。我有100个样本要运行，每个样本有40个时间步长和1260个特征。我对网络的粗略看法如下。将数据输入到LSTM层，将其编码到密集层，然后使用最终的LSTM作为输出层。 model = Sequential()
model.add(LSTM(100, input_shape=(40, 1260), return_sequences=True))
model.add(Dense(100, activation='softmax'))
model.add(LSTM(1260))
model.compil
浏览 17提问于2020-09-07得票数 0
回答已采纳
我正在尝试在keras中为timeseries开发一个编码器模型。数据的形状是(5039，28，1)，这意味着我的seq_len是28，我有一个特征。对于编码器的第一层，我使用112个hunits，第二层将有56个，为了能够回到解码器的输入形状，我必须添加具有28个hunits的第三层(这个自动编码器应该重建它的输入)。但是我不知道将LSTM层连接在一起的正确方法是什么。AFAIK，我可以添加RepeatVector或return_seq=True。您可以在以下代码中看到我的两个模型。我想知道会有什么不同，哪种方法是正确的？
第一个使用return_sequence=True的模型
input
浏览 27提问于2018-08-08得票数 17
回答已采纳
1回答
我正在创建一个语言模型:一个包含2个双向LSTM层的seq2seq模型。我已经训练了这个模型，而且它的精度似乎很好，但是当我坚持想出推理模型的时候，我发现自己被每个LSTM层返回的状态弄糊涂了。
我正在使用本教程作为指南，尽管这个链接中的示例不是使用双向层：。
注意:我使用的是预先训练过的单词嵌入。
lstm_units = 100
# Set up embedding layer using pretrained weights
embedding_layer = Embedding(total_words+1, emb_dimension, input_length=max_input_
浏览 9提问于2022-08-22得票数 0
回答已采纳
1回答
我正在尝试使用连接层将VGG16模型、LSTM模型和张量输入合并为一个
LSTM代码
这是一个简单的LSTM模型
VOCAB_SIZE=1000
encoder = tf.keras.layers.experimental.preprocessing.TextVectorization(max_tokens=VOCAB_SIZE)
encoder.adapt(np.array(df['caption']))
def build_lstm():
model = Sequential(
[
encoder,
Embedding(inpu
浏览 3提问于2021-02-12得票数 0
2回答
我必须识别服务器的不同操作状态。我有与服务器的不同传感器相关的读数(如温度传感器、风扇速度传感器、作业负载传感器等).The数据我有一些操作状态的信息(正常的、高温的、高温的、高速的)等等。我应该使用什么ML算法来识别是否有其他的操作状态，训练数据没有看到的状态？
我使用过几种聚类算法。我预计高斯混合模型能很好地工作，但它们不能指示出新的运行状态。
我使用了LSTM，并查看了残差，但是必须查看每个参数的残差来识别不同的状态。
浏览 0提问于2019-06-13得票数 1
1回答
seq2seq -编码器反向传播
、、、、
我很难理解seq2seq模型中的编码器是如何进行反向传播的.没有标签，因此不可能计算错误，这是反向传播的，但LSTM层的权重被以某种方式更新。
l_enc_input = Input(batch_shape=(batch_size, None, embedding_size))
l_enc_lstm = LSTM(encoding_size, return_sequences=False, return_state=True, stateful=True, dropout=0.2)
l_dec_input = Input(batch_shape=(batch_size, None, embe
浏览 7提问于2017-09-22得票数 1
1回答
我想做的是:用二维的输入观测序列来预测轨道元素，即
input = X = [position_{t_{0}}, position_{t_{1}},\ ..., position_{T}]
output = y = parameters\ of\ observed\ orbit
位置是(x，y)坐标，参数是描述二维平面中的椭圆的少数值。
📷
到目前为止我所做的:我使用了一个非常非常基本的([X_{o_{i}}^{1},X_{o_{i}}^{2},\ ...], y_{o_{i}})堆栈模型，它是用o_{i}是二维轨道的情况下训练的。[X_{o_{i}}^{1},X_{o_{i}}^{2
浏览 0提问于2020-06-02得票数 2
回答已采纳
自动编码器通过将每个训练实例复制到输入和输出来进行训练。然而，在异常检测的预测中，输出误差是否是与异常输入相同的输出特征(S)的局部误差，例如，如果我有10个特征，用特征#4的异常输入来预测，高输出误差也会局限于输出特征#4，还是会在其他输出中出现较大的误差？如果定位到特定的特征，整个检测就会变得更加有用。
浏览 0提问于2018-11-20得票数 1
回答已采纳
1回答
我有一个数据集：
100 timesteps
10 variables
例如,
dataset = np.arange(1000).reshape(100,10)
这10个变量是相互关联的。所以我想把它的维数从10降到1。还有，100个时间步长是相关的。
哪个深度学习架构适合它的家伙？
编辑：
from keras.models import Sequential
from keras.layers import LSTM, Dense
X = np.arange(1000).reshape(100,10)
model = Sequential()
model.add(LSTM(inpu
浏览 1提问于2018-04-06得票数 1
回答已采纳
我一直在尝试创建一个LSTM来重建Tensorflow上的多变量时间序列数据。首先，我尝试适应(更改为Functional，更改了层)采用的方法，并提出了以下代码：
input_shape = 13
latent_dim = 2
prior = tfd.Independent(tfd.Normal(loc=tf.zeros(latent_dim), scale=1), reinterpreted_batch_ndims=1)
input_enc = Input(shape=[512, input_shape])
lstm1 = LSTM(latent_dim * 16, return_s
浏览 8提问于2022-03-31得票数 0
2回答
什么系统用于异常检测？
我看到像Mahout这样的系统没有列出异常检测，但是像分类、聚类、推荐等问题.
任何建议以及教程和代码示例都将是很棒的，因为我以前没有这样做过。
浏览 3提问于2014-08-06得票数 2
回答已采纳
1回答
这个自动编码器是如何工作的？
、、、、
我正在尝试使用自动编码器来获取时间序列并重建它。我的数据有10个时间序列，长度为365，具有一维，回顾窗口为28天。自动编码器模型基于此。因此，基本上这个模型应该获得28个值的序列，并尝试将它们重建为其结果。正如你在代码中看到的，我训练了模型，然后给了它100个序列作为测试。然后，我尝试绘制每个序列步骤的结果值(见图)。我想看看这28个时间步是如何构造的。因此，在图片中，您可以看到每个变量的28个图(蓝色线条是实际/期望值，橙色线条是重建结果)。对于第一个时间步长，它总是很糟糕，几乎是一个常量值，然后在下一个时间步长，它变得越来越好，对于最后一个时间步长，它几乎能够重建真实值。这是怎么回事呢？
浏览 14提问于2018-07-20得票数 1
2回答
我正在尝试解决序列补全的问题。假设我们有基本事实序列(1,2,4,7,6,8,10,12,18,20) 我们模型的输入是一个不完整的序列。即(1,2,4，_,10,12,18,20)。从这个不完整的序列中，我们想要预测原始序列(地面真实序列)。可以使用哪些深度学习模型来解决此问题？ 这是编码器-解码器LSTM架构的问题吗？ 注意:我们有数千个完整的序列来训练和测试模型。 任何帮助都是非常感谢的。
浏览 20提问于2019-10-16得票数 0
我正在尝试构建一个自动编码器神经网络，用于在单列文本列表中查找异常值。我的输入有138行，它们看起来像这样： amaze_header_2.png
amaze_header.png
circle_shape.xml
disableable_ic_edit_24dp.xml
fab_label_background.xml
fab_shadow_black.9.png
fab_shadow_dark.9.png 我已经使用Keras构建了一个自动编码器网络，并且我使用python函数将我的文本输入转换为一个数组，每个字符的ascii表示用零填充，这样它们都具有相同的大小。 我的完整代码是这样的
浏览 9提问于2019-04-22得票数 2
我已经将embedding_attention_seq2seq模块用于机器翻译任务，如以下教程所述：
在本教程中指定模型的seq2seq_model.py中，我注意到在默认情况下，如果在以下行中将use_lstm设置为false，则它们使用了use_lstm：
# Create the internal multi-layer cell for our RNN.
single_cell = tf.nn.rnn_cell.GRUCell(size)
if use_lstm:
single_cell = tf.nn.rnn_cell.BasicLSTMCell(size)
cell = si
浏览 1提问于2016-10-14得票数 3
回答已采纳
(我正在测试我写简短而有效的问题的能力，所以让我知道我在这里做得如何)
我正试图训练/测试一个TensorFlow递归神经网络，特别是一个LSTM，并以以下ndarray格式对时间序列数据进行一些试验：
[[[time_step_trial_0, feature, feature, ...]
[time_step_trial_0, feature, feature, ...]]
[[time_step_trial_1, feature, feature, ...]
[time_step_trial_1, feature, feature, ...]
浏览 3提问于2017-07-24得票数 8
回答已采纳
1回答
目标
试图在多元时间序列数据集上运行LSTM自动编码器：
X_train (200, 23, 178) - X_val (100, 23, 178) - X_test (100, 23, 178)
现状
普通的自动编码器比简单的LSTM结构得到更好的结果。
我对如何使用重复向量包装层有一些疑问，据我所知，该层应该简单地重复若干次，相当于LSTM/GRU单元的最后状态的序列长度，以便输入解码器层的输入形状。
模型结构没有产生任何错误，但结果仍然是一个数量级比一个简单的AE，而我希望他们至少是一样的，因为我使用的架构，应该更适合时间的问题。
首先，这些结果是否具有可比性？
然而，LSTM的重建误差
浏览 2提问于2019-02-28得票数 1
回答已采纳
1回答
我正在尝试在Keras中使用seq2seq模型构建一个聊天机器人。我使用了Keras博客中指定的标准seq2seq模型。我曾经使用过Word2vec来嵌入单词。我的问题是，我在训练时得到了负值的损失。为什么会发生这种情况?我如何修复它？谢谢。 from keras.models import Model
from keras.layers import Input, LSTM, Dense
# Define an input sequence and process it.
encoder_inputs = Input(shape=(None, num_encoder_tokens))
e
浏览 8提问于2020-07-19得票数 0
我设计了一个自动编码器，并对其进行了训练。现在，我想从编码器中提取特征，并将它们提供给另一个模型的生成器。 这是我实现的自动编码器。 x = Conv1D(64, 5, activation="relu", padding="same")(input)
#x = BatchNormalization()(x)
x = MaxPooling1D(2, padding="same")(x)
x = Conv1D(32, 5, activation="relu", padding="same&
浏览 35提问于2019-05-27得票数 0
1回答
用于多元序列预测的Lstm方法
、、、、
我和我堆叠的LSTM模型混在一起了。Lstm有不同类型的应用程序。例如，在图像中显示了两种类型的LSTM，机器翻译和视频分类。
我的模型如下。
def create_stack_lstm_model(units):
model = Sequential()
model.add(LSTM(units, activation='relu', return_sequences=True, input_shape=(n_steps, n_features)))
model.add(LSTM(units, activation='relu'
浏览 6提问于2020-12-20得票数 0
回答已采纳
我对tensorflow有个问题，现在我用tensorflow建立了两个RNN模型。
RNN1(编码器)是三层LSTM单元，单元尺寸为256个。
RNN2(译码器)是3层LSTM单元，单元大小为512。
现在，我希望通过状态组合两个RNN2，这意味着RNN1的最后一个状态是RNN2的第一个状态。我想问一下如何实现这一点？
我尝试设置RNN1和RNN2的单元格大小相同(512)，并使用以下代码：
decoder_initial_state = cell.zero_state(batch_size, tf.float32).clone(cell_state=encoder_stat
浏览 0提问于2019-02-12得票数 0
回答已采纳
我正在处理这个例子，但我对如何建立独立的解码器模型感到困惑。
from keras.layers import Input, LSTM, RepeatVector
from keras.models import Model
inputs = Input(shape=(timesteps, input_dim))
encoded = LSTM(latent_dim)(inputs)
decoded = RepeatVector(timesteps)(encoded)
decoded = LSTM(input_dim, return_sequences=True)(decoded)
seq
浏览 2提问于2017-05-06得票数 1
回答已采纳
我正在尝试为时间序列数据设置一个LSTM自动编码器/解码器，但在尝试训练模型时不断得到Incompatible shapes错误。按照步骤操作，并使用中的玩具数据。请看下面的代码和结果。注意Tensorflow版本2.3.0。
创建数据。将数据放入序列中，以(样本，时间戳，特征)的形式为LSTM提供时间。
timeseries = np.array([[0.1, 0.2, 0.3, 0.4, 0.5, 0.6, 0.7, 0.8, 0.9],
[0.1**3, 0.2**3, 0.3**3, 0.4**3, 0.5**3, 0.6**3, 0.7*
浏览 2提问于2020-08-22得票数 1
1回答
我想测试时间序列中的异方差。python中的工具，如: statsmodels.stats.diagnostic.het_breuschpagan，需要将残差作为数据拟合模型获得的输入。因为这种测试依赖于所训练的模型的优良性。我想在不训练任何模型的情况下，直接对数据本身进行时间序列的异方差检验。所以我用R中的McLeod.Li检验来测试原始时间序列。我分析了个体特征具有异方差。为了消除异方差性，我在数据中的所有条目中添加了1(因为它有0项)，并计算出异方差值移到0。为什么？
浏览 0提问于2019-01-21得票数 1
我正在建立一些零件的制造，我收到时间序列数据的电流和电压从每个部分。我想把一个部件标为好的。
我想使用数据的一部分是非常好的，并告诉模型，这些数据是正常的训练。
然后，我希望模型能够区分测试数据中的正常值和异常值(其他部分)。
通过这种方式，我希望通过与正常数据的比较来检测零件中的缺陷。
我已经尝试过一个类别的支持向量机(新奇检测)，但我没有取得丰硕的结果。
你能给我建议其他的方法吗？
浏览 5提问于2022-09-28得票数 -1
1回答
如果使用递归神经网络进行时间序列预测(如果LSTM/GRU/.不重要)，则预测可能如下所示：
📷
to_predict (橙色)被输入到模型中，预测(紫色)是RNN模型的预测结果，正确(虚蓝色)是benn应该如何正确预测的。
可以看出，to_predict (以及所有的培训数据)相当“尖峰”，而预测则要平滑得多。平滑大概是模型、建筑等的结果；无论如何，我的问题是针对其他地方的(尽管与此相关)：
是一种平滑的预测，它或多或少地介于正确数据的峰谷之间，这是对.
的暗示。
..。一个推广的模型..。
..。或者说，没有这样的曲折标志着它的预测质量很低.
..。或者两者都不能(分别不能得出任何结论)？
浏览 0提问于2019-06-20得票数 1
3回答
异常检测的无监督学习
、、、、
我已经开始研究Python中的异常检测。我的数据集是时间序列1。一些传感器正在收集这些数据，这些传感器记录和收集半导体制造设备上的数据。
我的数据集如下所示：
ContextID Time_ms Ar_Flow_sccm BacksGas_Flow_sccm
7289973 09:12:48.502 49.56054688 1.953125
7289973 09:12:48.603 49.56054688 2.05078125
7289973 09:12:48.934 99.85351563 2.05078125
7289973 09:12:49.924 35
浏览 0提问于2019-03-21得票数 3
回答已采纳
来自伊恩·古德费罗的“深度学习书”：
如果自动编码器成功地简单地学习了在任何地方设置g(f(x)) = x，那么它就不是特别有用了。相反，自动编码器被设计成无法学习完美地复制。
我不明白这部分。g是解码器，f是编码器。为什么编码器和解码器要完美地表示输入数据x是不可取的？
另一种解决这个问题的方法是--为什么自动编码器需要正规化？我理解在预测机器学习中，我们对模型进行了正则化，使其能够超越训练数据进行推广。
然而，有了足够大规模的培训集(在深度学习中很常见)，就不应该有正规化的必要。在我看来，在任何地方学习g(f(x)) = x似乎都是可取的，我也不明白为什么作者会不这么说。
浏览 0提问于2018-07-27得票数 2
2回答
我试图在Keras中构建一个文本LSTM自动编码器。我想使用嵌入层，但我不知道如何实现这一点。代码看起来是这样的。
inputs = Input(shape=(timesteps, input_dim))
embedding_layer = Embedding(numfeats + 1,
EMBEDDING_DIM,
weights=[data_gen.get_embedding_matrix()],
input_length=
浏览 0提问于2017-06-23得票数 6
回答已采纳
1回答
这是我的简单可复制代码：
from keras.callbacks import ModelCheckpoint
from keras.models import Model
from keras.models import load_model
import keras
import numpy as np
SEQUENCE_LEN = 45
LATENT_SIZE = 20
VOCAB_SIZE = 100
inputs = keras.layers.Input(shape=(SEQUENCE_LEN, VOCAB_SIZE), name="input")
encode
浏览 0提问于2019-07-12得票数 0
回答已采纳
3回答
我正在尝试理解注意力模型，并且自己也建立了一个模型。经过多次搜索，我发现了，它有一个用keras编写的atteniton模型，而且看起来也很简单。但是当我试图在我的机器上构建相同的模型时，它给出了多参数错误。错误是由于在类Attention中传递的参数不匹配造成的。在网站的attention类中，它请求一个参数，但它使用两个参数初始化attention对象。
import tensorflow as tf
max_len = 200
rnn_cell_size = 128
vocab_size=250
class Attention(tf.keras.Model):
def __i
浏览 46提问于2019-07-09得票数 14
回答已采纳
我有足够的和正确格式化的数据数百万没有标签。我得找出异常情况。
听说隔离林、马氏距离关于在无监督学习中识别异常。这些可以试试吗？
他们还有其他我们可以尝试的技术吗？
谢谢
浏览 0提问于2018-10-27得票数 1
回答已采纳
1回答
具体而言，引发这个问题的是TensorFlow的LSTM层版本的return_sequence参数。
医生说：
布尔。是否返回最后一个输出。在输出序列中，或者整个序列中。默认值:假。
我已经看到了一些实现，特别是使用这个参数来除去输出序列中的最后一个元素作为自动编码器的“编码器”一半的输出的自动编码器。
下面是三种不同的实现。我想了解这些差异背后的原因，因为这种差异看起来很大，但都自称是同一件事。
例1 (TensorFlow)：
此实现除去了LSTM的所有输出(序列的最后一个元素除外)，然后重复该元素几次以重构序列：
model = Sequential()
model.add(LS
浏览 4提问于2020-12-07得票数 4
回答已采纳
我正在尝试为文本实现一个自动编码器。但是我不知道我应该使用哪种损失函数？我试过使用mse，但我损失了1063442。我试图构建一个非常简单的自动编码器，只使用Keras中的LSTM层。在角蛋白-博客上，它们使用二进制交叉熵，但我认为原因在于它们使用黑白图像。
谢谢
浏览 0提问于2018-03-28得票数 0
我能够使用fast ai对语言模型进行微调。我想从句子相似度的微调模型中提取句子嵌入。如何获得编码器模型嵌入？同样，嵌入可以与其他模型中的其他嵌入一样与点积进行比较吗？
data_lm = TextLMDataBunch.from_df(train_df = se1, valid_df = se2, path = "",text_cols='text')
learn = language_model_learner(data_lm,drop_mult=0.7,pretrained=True,arch=AWD_LSTM)
learn.fit_one_cycle(3
浏览 12提问于2019-08-15得票数 1
回答已采纳
2回答
我想知道这两种型号的区别。上面的一个有4层，查看模型摘要，您也可以定义单位数的降维。但是第二模型是什么，它有3层，你不能直接定义隐藏单位的数量？LSTM自动编码器是否用于降维和回归分析？有什么好的文章描述了我从和中找到的这两个例子。我没有定义变量，实际上我不是直接问编码问题。我希望这也是这个话题的好地方。1.模式：
from keras.layers import *
from keras.models import Model
from keras.layers import Input, LSTM, Dense, RepeatVector
samples=1000
timesteps=3
浏览 1提问于2018-04-28得票数 0
回答已采纳
去噪自动编码器能用于结构化数据的异常检测吗？
我知道我可以用去噪自动编码器来检测图像上的异常，但我不知道他们是否也能对结构化数据进行去噪？如果没有，为什么？
浏览 0提问于2019-04-29得票数 2
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
即时通信 IM
实时音视频活动推荐
腾讯云开发者
