1回答
我正在Pytorch中训练一个简单的CNN，用于在一个非常小的数据集上进行分割(只有几张图像，因为这只是为了验证概念)。由于某些原因，在返回之前的训练过程中，损失飙升到6，IoU随机下降到0(联合精度指标的交集)。我想知道为什么会发生这种事？
浏览 39提问于2020-02-23得票数 0
回答已采纳
1回答
我正在使用在Tensorflow中实现的卷积神经网络(cnn)进行图像分割。我有两个类，我使用交叉熵作为损失函数和Adam优化器。我正在用大约150张图片训练这个网络。在训练过程中，我看到了这种周期性的模式，训练损失一直下降到有一对高的值，然后迅速下降到以前的水平。
浏览 0提问于2018-06-05得票数 0
1回答
在超参数整定过程中，我们选择一个度量来衡量模型的性能。标准的例子: f1评分，精确，回忆，AUC .
一般情况下，对于神经网络的训练，反向传播会根据损失函数的值来优化模型的权重。接下来的问题是:为什么人们不使用损失函数作为神经网络优化的主要性能指标？
浏览 0提问于2018-12-17得票数 1
回答已采纳
我是Lstm和机器学习的新手，我正在努力理解它的一些概念。下面是我的Lstm模型的代码。model = Sequential()model.add(LSTM(50))model.add(Dense(vocab_size, activation='softmax'))
early_stopping = EarlyStopping(monitor='val_loss',
浏览 0提问于2021-01-14得票数 0
回答已采纳
1回答
问题在于如何利用卷积神经网络这样的深度学习模型进行图像分类，该模型作为训练过程的一部分进行自动特征工程(使用卷积层)。对于纯图像分类/分割模型，有一个特征存储有意义吗？哪些特性应该存储在功能存储中？卷积层的输出？但是在训练过程中，它们不能被重用，因为在训练过程中，它们会被卷积层重建。
浏览 0提问于2021-02-09得票数 0
1回答
以下内容来自Keras教程
这种行为是在TensorFlow 2.0中引入的，目的是使layer.trainable = False能够在convnet微调用例中产生最常见的行为。为什么我们要在微调卷积神经网络时冻结这一层？是因为tensorflow角的某些机制，还是由于批处理的规范化算法？我自己做了一个实验，我发现如果可训练不被设置为错误，这个模型往往会导致灾难性的忘记以前学过的东西，并且在最初的几个时代还会有很大的损失。原因是什
浏览 2提问于2020-07-21得票数 4
回答已采纳
在我试图解释的时候，请容忍我。我把MNIST的一个很大的“训练”子集作为我的豚鼠。3)对直方图进行归一化处理，得到真实概率分布的估计值。他的书“http://www.inference.org.uk/itila/book.html”第40章)
7)因此，作为粗略的估计(并且谨慎地)，我们可以说，我们需要一个由95个神经元组成的神经网
浏览 0提问于2018-03-31得票数 7
1回答
我在python中从零开始制作了一个卷积神经网络来分类MNIST手写数字(集中式)。它由8个3x3核的单卷积网络、2x2个最大池层和一个以softmax为激活函数的10个节点密集层组成。我使用交叉熵损失和SGD。
当我把整个训练集训练成一个批次大小为1的时代时，我的准确率为95%。然而，当我尝试一个较大的批次大小(16，32,128)时，学习变得非常嘈杂，最终的准确率在47%-86%之间。为什么我的网络在小批量上表现
浏览 0提问于2021-02-04得票数 0
3回答
decoded_imgs = autoencoder.predict(X_valid_autoencodeur)在3个时期后，验证和训练损失变得非常低，并且不会改变
重建的图像都是黑色的，特征向量都是一样的。我已经训练了100个时代的自动编码器，我应该训练更多吗？我的代码有没有出错，这可以解释糟糕的重构？
浏览 26提问于2019-07-16得票数 1
回答已采纳
1回答
我今天在尝试迁移学习，我不理解我得到的一些结果。我在大约100,000行Word2Vec嵌入上训练了一个卷积神经网络，在我的结果中发现了一个很大的方差差距。这里图表的焦点是底部的线条。训练损失在多个时期减少，验证损失很容易收敛。
显然，这是训练/开发误差之间的方差问题。为了解决这个问题，我知道添加更多的数据是最简单的解决方案。但由于我的笔记本电脑没有足够的内存来在</e
浏览 1提问于2017-10-21得票数 1
我在Tensorflow上训练一个神经网络，我使用tf.losses.cosine_distance作为损失函数。
训练进展顺利，但我担心的是，在训练过程中，我的损失值大于1。损失是如何计算的？是一批损失的总和吗？
浏览 1提问于2018-01-05得票数 4
回答已采纳
我面临的问题是，在训练过程中，我的损失会意外地激增，如下所示：当发生这种情况时，我希望自动重新加载最后一个检查点，重置优化器并恢复培训。我该怎么做？编辑:我试着用fp64进行精确的训练，虽然后来在训练中仍然出现了不稳定的学习问题。
浏览 4提问于2022-08-17得票数 0
2回答
软最大交叉熵损失爆发
、、、、
我正在创建一个用于像素级分类的深卷积神经网络。我正在使用adam优化器，具有交叉熵的softmax。
我问了一个类似的问题，找到了，但我得到的答案并没有导致我解决这个问题。我做了很多事情，例如调整训练和感应器率，尝试不同的优化器等。损失永远不会减少到500以上。我现在不洗牌我的数据。使用sigmoid代替softmax会导致这个问题的发生。还应该提到的是，当损失很小时，我的准确度只有80%左右，我需要做得更好。，为什么我的损失会突然
浏览 0提问于2018-02-27得票数 1
我是TensorFlow新手，尝试在分布式模式下运行它。现在，我在中找到了它的正式文档。但是它缺少一些loss函数。
有人能帮我完成这个任务吗?这样我就可以运行您的代码了吗？
浏览 2提问于2016-06-12得票数 0
回答已采纳
我正在训练一个用于图像语义分割的CNN U-网模型，但是训练损失似乎以比验证损失更快的速度下降，这正常吗？培训和验证的损失可以从下面的图像中看到：
浏览 3提问于2020-08-07得票数 3
回答已采纳
1回答
CNN的反向传播训练
、、、、
我以前在浅层(一层或两层)神经网络中工作，所以我对它们的工作原理有一定的了解，在训练过程中很容易直观地看到向前和向后传递的导子，目前我正在研究深层神经网络(更确切地说，是CNN)，我读过很多关于它们的训练的文章，但我仍然无法理解CNN训练的总体情况，因为在某些情况下，使用预训练层的人使用自动编码提取卷积权，在某些情况下，随机权值被用于卷积，然后使用反向传播来<em
浏览 4提问于2016-07-11得票数 2
我试图理解限制Boltzmann机器(RBM)和前馈神经网络(NN)之间的区别。我知道，RBM是一个生成模型，它的思想是重建输入，而NN是一个判别模型，其中的思想是预测标签。但是我不清楚的是，为什么你不能仅仅用神经网络来建立一个生成模型呢？特别是，我想到的是深层信仰网络和多层感知器。
假设我对NN的输入是一组名为x的注释，而我的输出是一组节点y。在一个判别模型中，我在训练过程中的损失将是y与我希望x产生的y值之间的差额(例如，类标签的基本真理概率)。但
浏览 11提问于2015-08-07得票数 16
2回答
卷积神经网络中特征映射的滤波器
、、、、
在卷积神经网络中，我应该使用什么样的滤波器来提取特征图？我最近读到了关于卷积神经网络的文章，我了解到我们使用(一组滤波器)在每个卷积层生成一组特征映射，通过对前一层输出的滤波器进行卷积，生成一组特征映射。
(1)我们如何获得这些过滤器？
浏览 1提问于2015-12-05得票数 0
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
云直播
对象存储
腾讯会议活动推荐
腾讯云开发者
