为什么我用tensorflow制作的1隐藏层自动编码器不能工作？
自动编码器是一种无监督学习算法，用于学习输入数据的低维表示。它由编码器和解码器两部分组成，其中编码器将输入数据映射到低维编码表示，解码器将低维编码表示映射回原始数据空间。通过训练自动编码器，可以学习到数据的有用特征，并用于数据压缩、降维、特征提取等任务。
如果你使用TensorFlow制作的1隐藏层自动编码器不能工作，可能有以下几个原因：
- 数据预处理问题：自动编码器对输入数据的质量和范围要求较高。首先，确保输入数据已经进行了适当的归一化和标准化处理。其次，检查数据是否存在异常值或缺失值，这可能会干扰自动编码器的学习过程。
- 模型设计问题：自动编码器的性能受到模型设计的影响。首先，确认你的模型架构是否正确，包括输入层、隐藏层和输出层的维度设置是否合理。其次，检查模型中的激活函数、损失函数和优化器的选择是否适当。尝试使用其他激活函数、损失函数或优化器进行实验，以提高模型的性能。
- 参数调整问题：自动编码器的性能还受到训练参数的影响。首先，检查学习率的设置是否合适，过高或过低的学习率都可能导致模型无法收敛或收敛速度过慢。其次，确认训练迭代次数是否足够，过少的迭代次数可能导致模型未能充分学习数据的特征。
- 数据集问题：确认你的数据集是否具有足够的样本量和样本多样性。如果数据集过小或样本分布不均衡，可能导致模型无法很好地学习数据的特征。尝试增加数据集的规模或使用数据增强技术来改善模型的性能。
推荐的腾讯云相关产品：腾讯云AI Lab提供了一系列与人工智能相关的产品和服务，包括AI推理加速器、AI开发平台、AI模型训练与部署等。你可以参考腾讯云AI Lab的产品介绍页面（https://cloud.tencent.com/product/ai）了解更多相关信息。
请注意，以上答案仅供参考，具体原因需要根据实际情况进行分析和调试。
相关·内容
有人能举例说明如何重用自动编码器的隐藏层用于神经网络的分类任务吗?我想在tensorflow的多层感知器模型中使用自动编码器的两层
浏览 1提问于2017-12-17得票数 0
1回答
在场景1中，我有一个多层稀疏的自动编码器，试图复制我的输入，所以我的所有层都与随机启动的权重一起训练。在没有监督层的情况下，在我的数据中，这没有学习到任何相关信息(代码工作正常，因为我已经在许多其他深层神经网络问题中使用过它)
在场景2中，我只是在一个贪婪的分层训练中训练多个自动编码器，类似于深度学习(但最终没有监督步骤)，每一层都在先前的自动编码器的隐藏层的输出上。他们现在将分别学习一些模式(正如我从可视化权重中看到的)，但并不像我所期望的从单层as中学到。
所以我决定尝试一下，如果现在连接到一个多层AE的预先训练的层比随机初始化版本的性能更好的话。正如你所看到的，这和深度神经网络中的微调步
浏览 3提问于2016-01-29得票数 4
回答已采纳
来自伊恩·古德费罗的“深度学习书”：
如果自动编码器成功地简单地学习了在任何地方设置g(f(x)) = x，那么它就不是特别有用了。相反，自动编码器被设计成无法学习完美地复制。
我不明白这部分。g是解码器，f是编码器。为什么编码器和解码器要完美地表示输入数据x是不可取的？
另一种解决这个问题的方法是--为什么自动编码器需要正规化？我理解在预测机器学习中，我们对模型进行了正则化，使其能够超越训练数据进行推广。
然而，有了足够大规模的培训集(在深度学习中很常见)，就不应该有正规化的必要。在我看来，在任何地方学习g(f(x)) = x似乎都是可取的，我也不明白为什么作者会不这么说。
浏览 0提问于2018-07-27得票数 2
1回答
我正在尝试训练一个去噪的自动编码器，以两条简单的线组成的图像作为输入进行去噪。然而，即使使用像这样的简单图像，它也不能输出良好的输出。更神秘的是，当输入单个线性图像数据作为输入时，它完全消除了噪声。
我使用了使用leakyReLU函数的通用卷积自动编码器结构，代码如下所示。
即使我增加作为输入的训练数据的数量或增加训练周期，结果也总是相同的。
任何关于如何提高去噪自动编码器性能的建议都将不胜感激。谢谢。
卷积自动编码器代码：
from tensorflow.keras.layers import BatchNormalization
from tensorflow.keras.
浏览 2提问于2021-06-03得票数 0
我被tensorflow r1.0中的注意力解码器实现搞糊涂了。可以在这里找到原始代码：。
下面是我感到困惑的代码部分：
def decoder_fn(time, cell_state, cell_input, cell_output, context_state):
if cell_state is None: # first call, return encoder_state
cell_state = encoder_state
# init attention
attention = _init_attention(encod
浏览 2提问于2017-04-06得票数 0
1回答
对于叠加去噪的自动编码器，如下所示
原始数字来自
我想知道在哪里能增加噪音？对于单层去噪的自动编码器，我们只在输入端增加噪声。
对于多层去噪自动编码器，我们需要在图中的位置1,2,3,4添加噪声，还是只需要在位置1中添加噪声。
谢谢
浏览 0提问于2018-10-20得票数 1
回答已采纳
1回答
去噪自动编码器参数搜索
、、、
我已经运行了一个去噪自动编码器的超参数搜索，结果表明我应该使我的隐藏层的大小尽可能大(在我允许它搜索的值范围内)。这在直觉上是有意义的(我认为？)，更宽的层可以让它更容易地将输出复制到输入。然而，我认为这个微不足道的结果是为了防止去噪自动编码器。
有人能给我建议吗？谢谢。
浏览 0提问于2018-10-02得票数 -1
我们需要实现一种新的方法，使用基于自动编码器的生成式深度学习模型来加密任何类型的数据，其想法是使用自动编码器来降低数据维度，所以这是可能的吗？
浏览 15提问于2020-05-30得票数 0
回答已采纳
1回答
我分别训练和保存了编码器和解码器。现在我可以用编码器对一些图像进行编码，然后用解码器分两步解码/重建编码的数据。我怎样才能一步一步地解码这两个步骤？如何将编码器-译码器连在一起来制作自动编码器？
# What I have
from tensorflow.keras import models
encoder = model.load_model('path encoder')
decoder = model.load_model('path decoder')
encoded = encoder.predict('some image data&
浏览 9提问于2022-06-06得票数 0
目前，我正在使用Python、Numpy、熊猫、scikit--学习数据预处理(LabelEncoder、MinMaxScaler、等)，然后将处理后的数据输入到用Tensorflow 2.0构建的DNN模型中。这个输入管道满足我的需要时，数据是足够小，以适应个人电脑的RAM。
现在我有一些大数据集，超过10 Now，有些更大。我还计划在生产环境中部署模型，这意味着每天都会有新的数据出现。对于DNN模型训练，采用了tensorflow 2.0分布式策略。但对于数据预处理，显然我不能使用熊猫，科学猫学习在大型数据集与一台电脑。在我看来，我需要使用一个for -循环，在这个循环中，我反复获取一小部
浏览 2提问于2019-12-05得票数 0
1回答
我看了一下泽勒·的论文，以及他在youtube上演讲的一些视频，当时我正试图用tensorflow复制这篇文章，我偶然发现了一种叫做自动编码器的东西，它的程序看起来(无论是对还是外部的)都很相似，比如：
在泽勒的论文中：
转换输入。
把它传过去。
执行池操作。
..。对所有层进行冲洗和重复，完成后，将过程反转回像素空间，
在自动编码器中：
将其与我在github 上看到的自动编码器进行比较，可以这样做：
转换输入，
把它传过去
执行池
...rinse和重复其他层，并做反向的像素空间。
因此，要对conv网使用tensorflow所做的工作进行可
浏览 5提问于2016-05-26得票数 0
最近，我开始阅读关于深度学习的文章。主要是利用无监督的RBM网络对权值进行预训练，然后使用多个隐层的神经网络来完成任务。所以我的问题是，对于2类分类问题，我们是否可以用DNN进行分类。感谢那些准备回应的人。
浏览 3提问于2015-02-20得票数 1
回答已采纳
1回答
我正在尝试用tensorflow编写CLDNN的实现，就像在中那样。我对降维层有一个问题。
据我所知，它是由几个堆叠限制Boltzmann机器(RBM)和工作像一个自动编码器。该层的解码器部分只是为了训练编码器以减小井的尺寸。这意味着您希望将编码器的输出“插入”到下一层的输入中。
我可以定义一个损耗函数来训练自动编码器(通过比较解码输出的输入)，还有一个其他的损耗函数来训练整个图。我有办法训练这两个损失函数吗？或者我误解了这里的问题，但我觉得自动编码器的解码器部分是“在循环之外”的，不会被训练。
我发现了这样的自动编码器和卷积层的实现等等.但我不太明白如何在网络中“插入”自动编码器(如在方案中
浏览 5提问于2016-12-07得票数 0
回答已采纳
1回答
Keras嵌入层引起维数问题
、、、、
我目前正在尝试在我的序列到序列自动编码器中包括一个嵌入层，它是用keras函数API构建的。
模型代码如下所示：
#Encoder inputs
encoder_inputs = Input(shape=(None,))
#Embedding
embedding_layer = Embedding(input_dim=n_tokens, output_dim=2)
encoder_embedded = embedding_layer(encoder_inputs)
#Encoder LSTM
encoder_outputs, state_h, state_c = LSTM(n_hidden
浏览 2提问于2018-12-17得票数 0
回答已采纳
1回答
解码器不接受双向编码器的输出
、、、、
我正在尝试用Tensorflow实现一个编码器解码器模型。编码器是一个双向单元。
def encoder(hidden_units, encoder_embedding, sequence_length):
forward_cell = tf.contrib.rnn.LSTMCell(hidden_units)
backward_cell = tf.contrib.rnn.LSTMCell(hidden_units)
bi_outputs, final_states = tf.nn.bidirectional_dynamic_rnn(forward_cell, bac
浏览 17提问于2020-01-29得票数 0
我一直在阅读有关自动编码器的内容，我看到的所有示例都反映了构建解码器时的编码器部分。
encoder = [128, 64, 32, 16, 3]
decoder = [3, 16, 32, 64, 128]
这只是惯例吗？
解码器不应该具有与编码器不同的隐藏层结构，这有什么特别的原因吗？例如..。
encoder = [128, 64, 32, 16, 3]
decoder = [3, 8, 96, 128]
只要输入和输出匹配即可。
也许我漏掉了一些明显的东西。
浏览 4提问于2016-11-25得票数 0
1回答
我的目标是找出为什么给定的视频文件不能在Macos/Safari/Quicktime上播放。
这个问题的背景是可以在Safari/MacOS上播放带有透明背景/alpha频道的HEVC视频。为了便于播放，视频必须符合苹果公司在本文件中提出的具体要求：
在Apple/Safari/Quicktime上不播放的视频是带有alpha透明通道的HEVC视频。注意，MacOS的VLC确实会播放这个文件。下面是：
我有两个带有透明背景/alpha通道的示例HEVC视频文件，它们都可以使用Quicktime player或Safari进行良好的播放：
工作录像#1：
工作视频2：
第一步是找出我的非
浏览 20提问于2022-11-16得票数 -1
当我创建一个具有多个输入和输出的自动编码器体系结构时，plot_model图不会像预期的那样显示(以红色突出显示的问题)。
我认为出现第一个问题是因为我使用encoder.inputs作为自动编码器。但是，为自动编码器创建新的输入层会给我带来一个错误(图断开连接)。
问题可能发生在我这一边，而不是Keras中的一个bug，因此希望有更多经验的人能引导我朝着正确的方向前进。
ps。我不能只使用单一的自动编码器模型，这将避免这个问题，因为相同的编解码模型是额外使用在一个GAN设置。(实现目前正在使用单个输入和切片，但我真的希望切换到多个输入，因为它感觉更干净)
代码和架构图像如下：
from
浏览 0提问于2020-10-07得票数 1
有人能帮我理解自动编码器的含义吗？
我们期望的是输出等于输入，那么为什么我们需要这样做呢？对我来说没有任何意义。
我发现一些解释说，它学会了如何重建输入数据，这是否意味着我们可以从原图中选择一些像素，然后重建整个原始图像？如果是这样的话，对我来说仍然是没有意义的，因为模型的重建部分是从隐藏层到输出层，所以我们不能仅仅把选定的数据放入隐藏层，因为隐藏层的输入数据是输入层的全部原始数据的组合。
提前谢谢。
浏览 0提问于2016-10-27得票数 2
回答已采纳
1回答
免责声明:我也在CrossValidated上发布了这个问题，但没有受到任何关注。如果不是这个地方，我会很乐意把它移走的。
据我所知，他们之间唯一的区别是两个网络的训练方式。深层自动编码器的训练方式与单层神经网络相同，而堆叠式自动编码器则采用贪婪、分层的方法进行训练。Hugo在的评论中证实了这一点。我想知道这是不是唯一的区别，有什么指示吗？
浏览 0提问于2018-03-15得票数 6
回答已采纳
我使用自动编码器对数据进行预训练，并将输入数据规范化并传递给自动编码器。因此，自动编码器最终将减少功能的数量。
现在，我想使用自动编码器的输出来执行预测任务。为此，我希望将自动编码器的输出传递到一个完整的提要网络中。
我的问题是，在进入完整的馈送网络之前，我是否需要将数据再次规范化？
浏览 0提问于2016-01-08得票数 0
2回答
嵌入层和自动编码器有什么区别？
、、、、
我正在阅读关于嵌入层，特别是应用于NLP和word2vec的内容，它们似乎只不过是自动编码器在降维方面的应用。他们不一样吗？如果是的话，他们之间有什么区别呢？
浏览 0提问于2019-06-21得票数 10
我曾接受过sequence to sequence with attention模型的培训，在tensorflow。我有3个服务器，每个服务器有32个cpu和8个泰坦X gpu。
当我用单服务器和单gpu训练该模型时，它连续使用gpu 50~60%。步长时间也比较合理(0.2~0.3秒).
然而，当我用集群(1参数服务器，2名异步工作人员)训练相同的模型时，他们不能利用gpu，步骤时间增加(3秒，比单个版本慢10倍)。
我发现参数服务器的参数大小为220 of，网络使用率为2Gbit/秒。我认为有降低参数更新频率的方法，但我找不到。
有办法解决这个问题吗？
降低参数更新频率。
在没有信
浏览 6提问于2017-03-31得票数 1
回答已采纳
4回答
受限玻尔兹曼机-重构
、、、、
我读了一些关于受限玻尔兹曼机器的文章。对这些机器的重建能力进行了测试。我知道训练是如何工作的，但不知道重建是如何进行的。有人能给我一些提示吗？
浏览 1提问于2010-11-05得票数 4
我正在处理tensorflow中的Keras，试图实现一个自动编码器。顺序模型可以工作，但我希望能够分别使用编码器(前两层)和解码器(最后两层)，但使用我已经训练过的模型的权重。有办法这样做吗？我要做定制的模特吗？
model = keras.Sequential()
model.add(encoder_1)
model.add(leaky_relu)
model.add(encoder_2)
model.add(leaky_relu2)
model.add(decoder_1)
model.add(leaky_relu3)
model.add(decoder_2)
encoder_mode
浏览 2提问于2018-07-27得票数 0
回答已采纳
1回答
问题所在
我正在尝试用构建卷积自动编码器，但在代码部分
encoded_input = Input(shape=(1, 28, 28))
# retrieve the last layer of the autoencoder model
decoder_layer = autoencoder.layers[-1]
# create the decoder model
decoder = Model(input=encoded_input, output=decoder_layer(encoded_input))
我得到了错误
[...]lib/python3.5/site-packages/
浏览 13提问于2017-03-04得票数 2
回答已采纳
1回答
我正在尝试使用l2归一化来归一化我的神经网络中的一层。我想用l2范数(元素平方和的平方根)来划分特定层中的每个节点/元素，我的假设是keras的l2_normalize可以做到这一点：https://www.tensorflow.org/api_docs/python/tf/keras/backend/l2_normalize?version=stable。但是，我不确定如何实际使用它，因为文档中没有示例。我还发现了一些使用lambda函数的例子，比如Lambda(lambda x: K.l2_normalize(x,axis=1))(previous_layer)。然而，我不确定为什么需要
浏览 17提问于2020-01-05得票数 4
回答已采纳
1回答
如果我有一组N个数据，那么每个数据都有4个特征。我不知道这些特征之间可能存在(或不存在)的关系。
是否有可能从我最初的集合中生成新的数据，以尊重特性之间可能存在的隐式关系，而不必显式地找到这些关系？
浏览 0提问于2017-02-09得票数 2
回答已采纳
我有一个大的稀疏数据矩阵(包字，超过大量的条目)。在sklearn模型(如RandomForest )中，我可以很容易地将其视为稀疏矩阵。但是，如果我想使用Catboost，我需要将它转化为一个稠密矩阵。我想知道是否有任何有效的方法来处理Catboost，这不会导致这种情况吗？例如，任何内部内置的特性，比如TFRecords of Tensorflow，都可以加载细菌.
浏览 0提问于2017-10-31得票数 3
我正在尝试构建一个自动编码器神经网络，用于在单列文本列表中查找异常值。我的输入有138行，它们看起来像这样： amaze_header_2.png
amaze_header.png
circle_shape.xml
disableable_ic_edit_24dp.xml
fab_label_background.xml
fab_shadow_black.9.png
fab_shadow_dark.9.png 我已经使用Keras构建了一个自动编码器网络，并且我使用python函数将我的文本输入转换为一个数组，每个字符的ascii表示用零填充，这样它们都具有相同的大小。 我的完整代码是这样的
浏览 9提问于2019-04-22得票数 2
1回答
我刚开始深造，对完全连接的网络感到困惑。一个具有多个隐藏层的自动编码器是一种深度神经网络(DNN)吗？DNN总是完全连通的吗？假设一个包含三个隐藏层的自动编码器网络是使用H2O R包构建的，您如何知道您构建的自动编码器网络是否完全连接？
浏览 0提问于2018-08-07得票数 2
嘿，我对整个成果管理制熵/能量训练有点陌生，有一些理解上的困难，并试图弄清楚是否值得努力去理解。
用标准的梯度下降算法不能很容易地训练RBM吗？现在的路快多了吗？
下面是一些示例Theano代码，我的意思是：
def rbm(inputs, shape, cost=0, last_cost=1):
X = T.vector() # input
W = theano.shared(np.zeros(shape)) # weights
b = theano.shared(np.zeros( shape[1] )) # bias to
浏览 0提问于2016-05-20得票数 4
1回答
我正在使用Python，Tensorflow和Keras在450x450RGB的手表正面图像(例如)上运行自动编码器。我的目标是使用这些图像的编码表示，这些图像是由自动编码器生成的，并将它们进行比较，以找到它们之间最相似的手表。目前，我使用1500 rgb图像，因为我还没有GPU，而只有一台具有26BG RAM的pc。
我的源码如下：
from keras.layers import Input, Dense
from keras.models import Model
import cv2
import numpy as np
from sklearn import preprocessin
浏览 15提问于2018-02-23得票数 1
回答已采纳
我在Keras建了我的CNN自动编码器。我的数据(未提供)是2000份501点的样本。我把我的数据分成1500个样本进行培训，500个样本用于测试。我想保存解码器部分。这是我的密码：
from tensorflow.keras.layers import Input, Dense, BatchNormalization, Flatten, Lambda, Activation, Conv1D, MaxPooling1D, UpSampling1D, Reshape
from tensorflow.keras.models import Model
from tensorflow.keras i
浏览 1提问于2019-10-13得票数 0
回答已采纳
1回答
设置
我为图像构建了一个带有Tensorflow的自动编码器。我的图像大约有30个像素的长度和宽度。我使用的是5层：
输入层
编码器层有256个神经元，具有线性函数。(这一层应该起到预处理PCA的作用。)
编码器层有128个具有乙状结肠功能的神经元。
译码器层有256个神经元，具有乙状结肠功能。
译码器/输出层具有与线性函数输入相同数量的神经元。
所有层都使用偏见，定义如下
layer_1 = tf.nn.sigmoid(tf.add(
tf.matmul(x, tf.Variable(tf.random_normal([n_input, n_hidden_1
浏览 1提问于2017-02-21得票数 1
我正在研究tensorflow.org - 上的转换器代码
def create_masks(self, inp, tar):
# Encoder padding mask (Used in the 2nd attention block in the decoder too.)
padding_mask = create_padding_mask(inp)
# Used in the 1st attention block in the decoder.
# It is used to pad and mask future tokens in the in
浏览 19提问于2022-05-17得票数 0
1回答
隐藏层在哪里？
、、、、
我对自动编码器还是个新手。我有来自Keras (https://blog.keras.io/building-autoencoders-in-keras.html)的代码。我想知道我在代码中的注释是正确的吗？ input_img = keras.Input(shape=(784,)) # input
encoded = layers.Dense(128, activation='relu')(input_img) # is it hidden layer???
encoded = layers.Dense(64, activation='relu')(enco
浏览 70提问于2020-11-10得票数 0
回答已采纳
1回答
数据归一化卷积自动编码器
、、、
我对如何在训练卷积自动编码器之前对图像像素值进行归一化/标准化感到有点困惑。我们的目标是使用自动编码器进行去噪，这意味着我的训练图像由噪声图像和用作地面实况的原始非噪声图像组成。 据我所知，有许多选项可以对图像进行预处理：-标准化-标准化(z-score) 当使用MinMax方法(在0-1之间缩放)进行归一化时，网络工作得很好，但我这里的问题是:当使用训练集的最小最大值进行缩放时，我应该使用噪声图像的最小/最大值还是地面真实图像的最小/最大值？ 我在训练自动编码器时观察到的第二件事是：-使用z-score标准化，损失在前两个时期减少，之后它停止在大约0.030并停留在那里(它被卡住了)。为什
浏览 23提问于2019-10-14得票数 0
1回答
我试图在的损失函数中实现一个正则化项。在第15页中，引入了一个稀疏惩罚项，它是根据所有隐层单元的rho和rho_hat_j之间的Kullback-Leibor (KL)散度计算的。rho是一个静态数，它迫使神经元大部分离开，而rho_hat_j是神经元j在所有训练集上的平均输出(激活)。
我正在使用Keras来实现自动编码器，我知道在上有一个关于用Keras构建自动编码器的很好的教程，但是我想用Keras中的自定义正则化来实现描述的稀疏惩罚项。关于这个问题的一些旧的实现在、上找到，但是随着Keras上正则化API自1.2.0版本以来的变化，它们已经被废弃了，不再工作了。
所以我试着用这样的方法
浏览 0提问于2018-08-19得票数 2
回答已采纳
我正在尝试使用TensorFlow构建我的第一个自动编码器神经网络。编码器和解码器中各层的尺寸是相同的，只是相反。自动编码器学习将图像数据压缩和重建到一个合理的标准，但我想通过让解码器作为编码器的精确转位来提高它的性能。
我对如何在TensorFlow中做到这一点感到困惑。
下面是构建我的网络的一个片段：
imgW, imgH = 28, 28
encoderDims = [
imgW * imgH,
(imgW // 2) * (imgH // 2),
(imgW // 3) * (imgH // 3),
(imgW // 4) * (imgH // 4)
]
浏览 0提问于2018-07-05得票数 0
1回答
通常在RNN中，只使用先前的输入和隐藏状态来计算输出。但是，如果我们使用多达n个前面的步骤，会发生什么？本质上是将n元语法输入到神经网络中？由于n-gram在短文本生成中通常相当好，因此这种添加的信息将减轻隐藏状态下记忆短期知识的负担，并将重点放在文本的上下文方面。 这看起来很简单，但我找不到任何实现了这一点的论文。
浏览 21提问于2021-02-04得票数 1
1回答
我正在开发一个使用MLP的自动编码器来检测多变量时间序列中的异常。为了简化这个问题，我只使用了一个系列变量。
单变量病例
我应用它的方式是将时间序列分解成几个部分，并将这些片段呈现给网络。例如，我的系列由1000个点组成，我将其分成50个长度为20的子系列，每个子系列都成为学习网络的示例。
DAE input_shape应该是什么？我发现如果shape=(20, )和shape=(20,1)是不同的。我把我一直在做的DAE代码放在下面。DAE最后一层的格式应该是怎样的？当我使用只有一个神经元的输出层时，模型工作正常，为什么？
model = keras.Sequential([
浏览 4提问于2021-01-06得票数 0
基于tensorflow keras API教程；
model = keras.Sequential([
keras.layers.Dense(10, activation='softmax', input_shape=(32,)),
keras.layers.Dense(10, activation='softmax')
])
我不明白为什么输入层中的单元数是10，而输入形状是32。此外，在tensorflow教程中有许多类似于此的例子。
浏览 0提问于2018-08-08得票数 2
回答已采纳
下面的代码导入MNIST数据集，并训练一个叠加的去噪自动编码器来破坏、编码，然后对数据进行解码。基本上，我想把它作为一种非线性的降维技术。如何访问模型正在编码的低维特性，以便将这些特性放入集群模型？理想情况下，我希望低维特征是循环或直线(显然，在现实中不是这样)。
import numpy as np
import os
import sys
import tensorflow as tf
from tensorflow.examples.tutorials.mnist import input_data
mnist = input_data.read_data_sets("/tm
浏览 3提问于2017-11-17得票数 0
回答已采纳
为了训练去噪自动编码器，我在输入数据中构造了x+n，在输出数据中构造了x(x:原始数据，n:噪声)。学习完成后，我通过一个去噪自动编码器(x_test + n_test -> x_test)获得去噪数据。然后，作为测试，我通过将输入和输出数据构造成相同的值来训练自动编码器，就像传统的自动编码器一样。
(x -> x)
因此，在测试阶段，我获得了类似于去噪自动编码器的去噪数据。为什么通过传统的自动编码器来消除噪音？
请告诉我这两个自动编码器的区别。
浏览 4提问于2018-08-05得票数 2
回答已采纳
1回答
我想在Python3中的初始v3模型和TensorFlow中冻结这些层，除了前三个层之外，并修改这三个层的权重，以便能够重新初始化和重新训练网络的前三个层。
如果在初始模型中不能这样做，是否还有其他网络(在TensorFlow中)可以这样做？
浏览 0提问于2017-12-06得票数 2
1回答
我试图理解伯特的工作和输出，我想知道为什么伯特的每一层都有一个“隐藏状态”。
我理解RNN有一个“隐藏状态”，它被传递到每个时间步骤，这是以前输入的表示。但我读到伯特不是一个RNN，而是一个备受关注的CNN。
但是您可以输出BERT模型的每个层的隐藏状态。如果伯特不是RNN，它怎么会有隐藏的状态呢？
浏览 0提问于2020-01-20得票数 2
回答已采纳
1回答
自动编码器的实现
、、、
我试图用我自己的Java实现一个自动编码器。从理论上讲，我知道自动编码器基本上是一个对称网络.
所以，如果我选择总共有5个层，那么我必须在训练阶段(反向传播)阶段使用9个层，还是足够使用5个层？
我一直在阅读理论，但它们太抽象，而且充满了数学公式，我无法通过谷歌获得任何实现细节。
通常的做法是什么？
一个自动编码器，在训练阶段，使用反向传播，试图获得与输入类似的输出，目的是最小化错误。如上文所示。训练后，上述图像中的层数为7层，而实际层数为4层。所以，在培训的同时，我可以仅用4实现back-propagation吗？如果是的话，我怎样才能做到呢？
浏览 6提问于2013-12-28得票数 4
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储活动推荐
腾讯云开发者
