几个ephocs之后的损失是nan
根据给出的问答内容，我理解你想了解关于"几个ephocs之后的损失是nan"的解释。
"ephocs" 一词在问答内容中没有明确的定义或提及，所以我无法对其进行解释。然而，如果我们将其理解为深度学习中的迭代轮次（epochs），那么它通常用于指代训练神经网络时的迭代次数。
当我们在训练神经网络时，每个 epoch（迭代轮次）会更新模型的参数，尝试减少预测结果与实际结果之间的差距（损失）。通常情况下，随着 epochs 的增加，损失会逐渐减小，模型的性能也会提升。
然而，如果在训练过程中出现了"损失为 NaN" 的情况，意味着损失函数的计算结果为不可确定的值"NaN"（Not a Number）。这种情况通常是由于数值计算中的错误或者网络模型的不稳定性导致的。
当损失为 NaN 时，通常需要进行以下检查和调试步骤：
- 检查数据预处理：确保输入数据没有缺失值或异常值，并进行适当的归一化或标准化处理。
- 检查网络模型：确保模型的结构和参数设置正确，并避免梯度消失或爆炸等问题。
- 检查损失函数：验证损失函数的实现是否正确，并尝试使用其他常见的损失函数进行训练。
- 检查超参数：调整学习率、正则化参数等超参数的设置，以避免训练过程中出现不稳定的情况。
总的来说，"损失为 NaN" 表示训练过程中遇到了数值计算错误或模型不稳定的问题，需要仔细检查和调试以解决该问题。
请注意，我无法提供腾讯云相关产品和链接地址，因为不符合要求不能提及具体云计算品牌商。如果你对腾讯云或其他云计算品牌商的产品有兴趣，建议查阅相关官方文档或咨询相关专业人士。
相关·内容
2回答
所以我一直在尝试这个有趣的tensorflow应用程序：
完整的源代码在这里：
我在我的损失计算中得到了一个NaN结果，它完全难倒了我。问题出在下面这行代码中：
loss = tf.reduce_mean(tf.square(tf.sub(model.y_, model.y))) + tf.add_n([tf.nn.l2_loss(v) for v in train_vars]) * L2NormConst
当我评估第一部分时：
tf.reduce_mean(tf.square(tf.sub(model.y_, model.y)))
当我评估第二部分时，我得到了0.8左右的值：
tf.add_
浏览 15提问于2017-02-21得票数 2
回答已采纳
1回答
在拟合时，损失是NaN
、、、
我正在尝试用TensorflowJS制作python版本的Tensorflow的相同示例。不幸的是，当我运行脚本时，我不知道为什么训练时记录的损失值是NaN。
我想要实现的是一个简单的文本分类，它根据训练好的模型返回0或1。这是我正在关注的Python教程
这是我到目前为止已经翻译过的代码：
import * as tf from '@tensorflow/tfjs'
// Load the binding:
//require('@tensorflow/tfjs-node'); // Use '@tensorflow/tfjs-node-gpu&
浏览 1提问于2018-08-27得票数 2
1回答
时间序列分类短期后损失降至NaN
、、、、
下面是我的时间序列二进制分类的模型代码：
def make_model(feature_columns):
feature_layer = tf.keras.layers.DenseFeatures(feature_columns)
feature_layer_outputs = feature_layer(feature_layer_inputs)
feature_layer_outputs = tf.expand_dims(feature_layer_outputs, 1)
conv = keras.layers.Conv1D(filters=64, kernel_siz
浏览 0提问于2021-07-22得票数 1
在我的训练中，损失有时会变成nan。然而，这似乎并没有影响我的神经网络训练。有人知道tensorflow是否有一些nan值的内部处理吗？
nan前后的损失值是稳定的，所以我认为学习率是很好的。我宁愿认为有些图像似乎没有任何合理的信息，但我还不能百分之百确定。
有没有人有过类似的经历？我用的是tensorflow 0.12.1
浏览 2提问于2017-03-01得票数 2
回答已采纳
我正在尝试训练LSTM使用前面的N-1令牌预测Nth令牌 对于每个热编码令牌，我尝试预测下一个令牌。在三层LSTM之后，结果被馈送到致密层(包装在TimeDistributed层包装器中)，以将结果重新编码为相同的热编码。 奇怪的是，经过几个时期后，准确率(在训练和验证中)下降到接近0(坏消息)，而损失也下降到接近0(好消息？)。 ? 这一切为什么要发生？我知道我不能期望损失和准确性总是相反的方向(因为损失在所有类别上使用分类交叉熵，而准确性仅使用最佳或k个最佳类别)，但仍然-这种行为是高度意想不到和无法解释的。 这是什么原因造成的？我是不是做错了什么？我应该如何更改我的代码，以允许
浏览 86提问于2019-09-27得票数 1
回答已采纳
1回答
我正在尝试训练一个LSTM来使用Nth令牌前面的N-1令牌来预测它
对于每个热编码令牌，我尝试预测下一个令牌。经过三层低层编码后，结果被输入到一个密集的层(封装在TimeDistributed层包装中)，将结果重新编码到相同的热编码中。
奇怪的是，在经历了几个时代之后，准确性(无论是在训练还是验证中)都下降到了接近0(坏消息)，而损失也下降到了接近0(好消息？)。
📷
这一切为什么要发生？我知道，我不能期望损失和准确性总是朝着相反的方向发展(就像损失对所有类别使用绝对交叉熵，而准确性只使用最好的或k个最好的类别)，但是--这种行为是非常出乎意料和无法解释的。
这是什么原因？我做错什么了吗？我应
浏览 0提问于2019-10-02得票数 2
我有一个大约400个变量和5个目标列的数据集。在许多行中，只有几个Y值存在，即我在目标中有一些未知(NaN)。我通过TF应用一个自定义损失函数，以确保损失仅应用于Y值的预测，其中有一个要比较的Y值。
def nan_friendly_loss(y_true, y_pred):
y_true = tf.cast(y_true, tf.float32)
y_pred = tf.cast(y_pred, tf.float32)
valids = tf.math.is_finite(
y_true
)
#Only use y's that aren'
浏览 6提问于2020-06-06得票数 1
1回答
我正在尝试预测由两个角度(θ和φ)给出的方向。我定义了一个损失函数，它是预测方向和真实方向之间的角度距离，但在几个时期之后，我继续获得NaN值。 假设输出激活是线性的，我的自定义损失是： import tensorflow as tf
import numpy as np
import tensorflow.keras.backend as K
def square_angular_distance(y_true, y_pred):
the_pred = K.abs(y_pred[:, 0])
phi_pred = (y_pred[:, 1])%(2*np.pi)
浏览 12提问于2021-10-08得票数 0
回答已采纳
2回答
对于一些背景，我的数据集大致是75000+图像，200x200灰度，有26个类别(字母表中的字母)。我的模型是：
model = Sequential()
model.add(Conv2D(32, (3, 3), activation='relu', input_shape=(200, 200, 1)))
model.add(MaxPooling2D((2, 2)))
model.add(Dropout(0.2))
model.add(Conv2D(64, (3, 3), activation='relu'))
model.add(MaxPooling2D(
浏览 28提问于2020-05-09得票数 0
1回答
我有一台带有M1 Pro芯片的Mac电脑。我用tensorflow金属PluggableDevice安装了keras/tensorflow。我的图像分类模型在我的M1上运行平稳。
由于某些原因，我还需要在Ubuntu机器上运行代码--我使用了UTM，并在UTM指南中安装了ubuntu20.04。在这个VM中，我成功地安装了keras/tensorflow。
当我使用与Ubuntu中的M1完全相同的数据运行完全相同的代码时，我不会发现任何错误，但损失是爆炸性的：
我试过所有我知道的关于爆炸损失的技术：
基于范数clippingsmaller学习ratenormalization的网络
浏览 10提问于2022-03-22得票数 0
1回答
我正在训练卷积神经网络(CNN)，在MNIST上进行X次迭代后，我的训练和验证精度明显下降：
X似乎取决于学习速度。修改辍学率似乎对这一现象没有任何影响。我用较低的报告(每100批报告一次)进行测试，并注意到下降的速度非常快。精度在下降后不会恢复。
training_accuracy / validation_accuracy => 1.0000 / 1.0000 for step 10000
training_accuracy / validation_accuracy => 0.9833 / 1.0000 for step 20000
training_accuracy
浏览 10提问于2017-06-10得票数 0
回答已采纳
2回答
每堂课都有大约300张真实的图片。3类分类模型。我用2000生成的样本和10个年代做了一个模型。这个模型是好的，但有许多错误的负面预测。比我想要改进的模型和增加生成的样本数(真实的图像数目没有改变)到20000。在第六个时代，精度开始下降，最终达到0.2。
339/666 [==============>...............] - ETA: 52s - loss: 0.2762 - acc: 0.9012
340/666 [==============>...............] - ETA: 52s - loss: 0.2757 - acc: 0.9014
341
浏览 0提问于2019-03-27得票数 3
回答已采纳
6回答
神经网络训练中nans的常见原因
、、、、
我注意到，在培训期间经常出现的情况是引入了NAN。
通常情况下，它似乎是通过内部积/完全连接或卷积层爆炸的权重引入的。
这是因为梯度计算被炸毁了吗？或者是因为权值初始化(如果是的话，为什么权值初始化会产生这种效果)？或者它可能是由输入数据的性质引起的？
这里最重要的问题是：是NANs在培训期间发生的最常见的原因是什么？；其次，有哪些方法可以解决这个问题(以及为什么要工作)？
浏览 7提问于2015-11-27得票数 116
回答已采纳
我正尝试用“keras”在python中实现一个人工神经网络。我面临的问题是，我的模型正在为每一个时代返回“损失:南”。我想提到的是，我从csv文件中使用的数据集有一个列，其中缺少一些值。我想问一问，这是否由于这些缺失的资料所致？有没有办法得到'nan‘的损失整数的数值？以下是我的代码，
# Importing the Keras libraries and packages
import keras
from keras.models import Sequential
from keras.layers import Dense
# Initialising the ANN
cl
浏览 3提问于2021-04-01得票数 0
回答已采纳
是否有可能撤消最后一个训练步骤？例如，当损失值为'NaN‘时。
...
for step in range(num_epoch):
_, loss_value = sess.run([train_op, loss])
if np.isnan(loss_value):
# something like: sess.undo_last()
break
...
如果有这样的方法。它也适用于多GPU训练吗？
浏览 0提问于2018-01-12得票数 2
1回答
我试图实现一个简单的演示，得到一个多项式回归，但线性模型的损失没有减少。
我很迷惑我哪里出错了。
如果我每次训练模型一个样本(批处理大小= 1)，它可以很好地工作。但是，当我一次给模型提供很多样本时，损失会增加，并得到inf。
import numpy as np
import torch
import math
from matplotlib import pyplot as plt
def rand_series(size):
x = np.linspace(-100, 100, size)
np.random.shuffle(x)
base_y = 20 *
浏览 0提问于2021-03-24得票数 0
当策略放置/检测到一个条目时，我想添加。到目前为止，我想出了一个脚本：
@version=4
// Stop Loss inputs atr
longLossPerc = input(title="Long Stop Loss (%)",type=input.float, minval=0.0, step=0.1, defval=1) * 0.01
atrLength = input(title="ATR Length", type=input.integer, defval=6, minval=1)
userStructure = i
浏览 2提问于2021-10-27得票数 0
回答已采纳
尝试时，我编写了以下模型并运行它。输出如下所示。为什么对NaN期望值的训练步骤被loss_0_where_nan掩盖(历史记录表明损失确实被评估为0.0)，仍然在hidden和max_min_pred的权重矩阵中引入NaN权重？首先，我认为这可能是单个参数学习与输出值的某种权重，我认为这可能是特定于Adadelta优化器的。但这也会发生在SGD上。
import keras
from keras.models import Model
from keras.optimizers import Adadelta
from keras.losses import mean_squared_erro
浏览 0提问于2018-08-31得票数 3
下面是我的代码：
model = Sequential()
model.add(Dense(50, input_dim=33, init='uniform', activation='relu'))
for u in range(3): #how to efficiently add more layers
model.add(Dense(33, init='uniform', activation='relu'))
model.add(Dense(122, init='uniform', activati
浏览 1提问于2017-02-27得票数 3
回答已采纳
1回答
您好，我的训练数据在标签中有很多缺失值，例如，单个标签可以具有以下值：
[nan, 0, 0, nan, 1, 0]
我想训练一个忽略NaN值的分类模型。目前，我已经用-1填充了NaN值，并尝试对其进行切片。掩码不起作用，因为分类交叉点仍然将其考虑在内。
ix = tf.where(tf.not_equal(y_true, -1))
true = tf.gather(y_true, ix)
pred = tf.gather(y_pred, ix)
return keras.objectives.categorical_crossentropy(true, pred)
是我到目前为止所能想到的，
浏览 4提问于2017-04-03得票数 4
1回答
我在google和GPU中使用这个代码创建了一个多层LSTM。用于时间序列预测。
from keras.models import Sequential
from keras.layers import Dense
from keras.layers import LSTM
import tensorflow as tf
from tensorflow.keras.models import Sequential
from tensorflow.keras.layers import Dense, Dropout, LSTM, LSTM, BatchNormalization
from ker
浏览 3提问于2021-03-17得票数 3
回答已采纳
我正在为另一个数据集应用来自的时间序列建模。对于链接中给定的数据集，计算出的所有损失(即损失、平均绝对误差、验证损失、验证的平均绝对误差；后两个损失不是所有历元模型的损失)都是非零的，而当我更改数据集时，所有损失值都是nan。与这里使用的数据集相比，我使用的数据集有大约一半的读数。我的数据集有从多个位置(40多个位置)同时记录的15分钟间隔的读数。
所有过程的培训功能定义为
MAX_EPOCHS = 20
def compile_and_fit(model, window, patience=2):
early_stopping = tf.keras.callbacks.EarlySto
浏览 9提问于2022-11-01得票数 0
回答已采纳
我尝试将网络中的变量与如下代码连接在一起
x = self.layer1(x)
x = self.layer2(x)
x = self.layer3(x)
x = self.layer4(x)
x = x.view(x.size(0), -1)
x= torch.cat((x,angle),1) # from here I concat it.
x = self.dropout1(self.relu1(self.bn1(self.fc1(x))))
x = self.dropout2(self.relu2(self.bn2(se
浏览 11提问于2017-12-24得票数 1
回答已采纳
2回答
培训MSE损失大于理论最大值？
、、、、
我正在训练一个keras模型，它的最后一层是一个sigmoid单元：
output = Dense(units=1, activation='sigmoid')
我使用一些训练数据来训练这个模型，在这些数据中，预期的输出总是在0.0到1.0之间。我正在用均方误差编译模型：
model.compile(optimizer='adam', loss='mse')
由于预期的输出和实际的输出都是0到1之间的单个浮点数，所以我预计损失在0到1之间，但是当我开始训练时，我会损失一个大于1的3.3932。
我是不是遗漏了什么？
编辑：我正在添加一个示例来显示
浏览 3提问于2020-08-30得票数 6
我试图弄清楚这整个机器学习的事情，所以我做了一些测试。我想让它学习鼻窦功能(弧度角度)。神经网络是：
1输入(弧度角)/2隐藏层/1输出(窦性预测)
对于南瓜激活，我使用的是：，RELU，，需要注意的是，当我使用Logistic函数而不是RELU时，脚本是工作的。
为了做到这一点，我做了一个从0开始，在180结束的循环，它将把弧度(radian = loop_index*Math.PI/180)中的数字转换成弧度，然后基本上做这个弧度角的窦，并存储弧度和窦性结果。
因此，我的表对于一个条目如下所示：{输入:弧度角，输出:sin(弧度)}
for(var i = 0; i <= 180;
浏览 3提问于2017-08-10得票数 0
回答已采纳
/pytorch/aten/src/ATen/native/cuda/Loss.cu:102:操作符()：块: 18,0,0，线程: 54,0,0断言input_val >= zero && input_val <= one失败。
/pytorch/aten/src/ATen/native/cuda/Loss.cu:102:操作符()：块: 18,0,0，线程: 55,0,0断言input_val >= zero && input_val <= one失败。
/pytorch/aten/src/ATen/native/cuda/Loss.
浏览 7提问于2021-03-03得票数 1
当我尝试使用tensorflow中的sparse_softmax_cross_entropy_with_logits损失函数时，我得到了NaN。我有一个简单的网络，类似于：
layer = tf.nn.relu(tf.matmul(inputs, W1) + b1)
layer = tf.nn.relu(tf.matmul(layer, W2) + b2)
logits = tf.matmul(inputs, W3) + b3
loss = tf.sparse_softmax_cross_entropy_with_logits(logits, labels)
我有很多类(~10000)，所以我
浏览 0提问于2016-09-20得票数 7
回答已采纳
我的数据集由一个空闲系统组成，该系统在某个时候接收请求。我正试图通过一个时钟来预测这些瞬间。由于请求是稀疏分布的(我强迫它们持续一段时间，这样它们就不会太稀疏)，所以我想创建一个新的损失函数，如果模型只给出对所有事物的零预测，就会受到惩罚。我的实现尝试只是对标准逻辑的一种惩罚：
def sparse_penalty_logits(y_true, y_pred):
penalty = 10
if y_true != 0:
loss = -penalty*K.sum((y_true*K.log(y_pred) + (1 - y_true)*K.log(1 - y_p
浏览 0提问于2018-10-04得票数 2
这里有几个关于这个的主题( javascript，c++，...)，但还没有找到一个适用于gnuplot的主题。 基本上，我想将标签中的"nan“替换为”-“。 我知道我可以设置NaN = "---"，但是NaN的行为就像一个字符串，其他代码需要调整。 ### How to compare to NaN?
NaN = GPVAL_NaN # default value for NaN
a = NaN
print (a==NaN ? "---" : sprintf("%g",a))
print (a==NaN ? sprintf(&#
浏览 14提问于2019-01-10得票数 1
回答已采纳
1回答
我使用SWA方法在pytorch中训练模型。
SWA：
我的火车代码的丢失立即跳到了南。
模型的损失上升到nan
损失产出如下。
1.损失:张量(4.8463，设备=‘cuda:0’，grad_fn=)
2.损失:张量(118317.8516，设备=‘cuda:0’，grad_fn=)
3.损失:张量(5.7568e+22，device='cuda:0'，grad_fn=)
4.损失:张量(nan，设备=‘cuda:0’，grad_fn=)
如果没有SWA方法，损失是不会上升的。使用SWA方法的列车模型代码中是否存在问题？
我很感谢你的建议，谢谢。
#batch_size
ba
浏览 2提问于2019-11-09得票数 1
1回答
我希望你能帮助我。我正在使用TensorFlow和我在互联网上找到的一些教程实现一个小型多层感知器。问题是，网络能够学到一些东西，我的意思是，我能够以某种方式优化训练误差的值，并获得相当高的准确性，这就是我的目标。但是，我正在用Tensorboard记录损失函数的一些奇怪的NaN值。其实相当多。在这里，您可以看到我的最新Tensorboard记录损失函数输出。请注意，所有这些三角形后面都是不连续的--这是NaN值，还请注意，函数的总体趋势是您所期望的。
Tensorboard报告
我认为高学习率可能是问题所在，或者可能是一个太深的网络，导致梯度爆炸，所以我降低了学习率，使用了一个隐藏层(
浏览 4提问于2016-10-12得票数 3
回答已采纳
4回答
我试图微调伯特的文本分类任务，但我得到了NaN的损失，但不知道为什么.
首先，我定义了一个BERT标记器，然后对我的文本进行标记：
from transformers import DistilBertTokenizer, RobertaTokenizer
distil_bert = 'distilbert-base-uncased'
tokenizer = DistilBertTokenizer.from_pretrained(distil_bert, do_lower_case=True, add_special_tokens=True,
浏览 10提问于2020-06-17得票数 2
我需要帮助与networkX或任何其他图形库在python。我有一个带有键的字典，每个键都有几个值：
{nan: array([nan, nan, nan, nan, nan, nan, nan], dtype=object),
'BBDD': array([nan, nan, nan, nan, nan, nan, nan], dtype=object),
'AAAD': array(['BBDD', nan, nan, nan, nan, nan, nan], dtype=object),
'AAFF': array([
浏览 3提问于2017-06-14得票数 7
回答已采纳
我有一个六角形的图像，由几个单一的图像拼接在一起，这是一个矩形8位TIFF与黑色角落保存。我想把黑角设置成透明的。因为我想把几个六边形缝在一起。我已经尝试了阈值函数，并将黑色区域设置为NaN，但是在重新打开图像后，角仍然是黑色的。我还试着做了一个选择，并明确了外面，这导致了一个白色的背景。我需要再次将它保存为TIFF文件，以便进一步处理。有人知道如何解决这个问题吗？
浏览 0提问于2018-03-14得票数 0
1回答
Caffe中的多精度层
、、、
我正在尝试使用nVidia数字和Caffe对大量图像进行分类。当我使用我所构建的标准网络和网络时，一切都很好。
然而，当我运行GoogleNet示例时，我可以看到几个精度层的结果。在CNN中怎么会有多个精确层？有多个损失层是可以理解的，但是多精度值意味着什么呢？我在学习过程中得到了几张精确的图表。类似于这幅图片：
lossX-top1和lossX-top5表示精度层。我从原型中了解到，这些值评估的是前1和前5的精度值，但是lossX的精度层是什么？
即使其中一些图收敛到98%左右，当我在'validation.txt'上手动测试训练过的网络时，我得到的值明显较低(对应于三
浏览 4提问于2015-10-06得票数 6
回答已采纳
1回答
咖啡损失是nan或0
、、、、
我正在训练一个网络，我已经把学习率从0.1改为0.00001。输出始终保持不变。没有任何手段用于训练。会有什么原因造成如此奇怪的损失？
I1107 15:07:28.381621 12333 solver.cpp:404] Test net output #0: loss = 3.37134e+11 (* 1 = 3.37134e+11 loss)
I1107 15:07:28.549142 12333 solver.cpp:228] Iteration 0, loss = 1.28092e+11
I1107 15:07:28.549201 12333 solver.cpp:244]
浏览 1提问于2016-11-07得票数 0
回答已采纳
1回答
我正在处理一个图像数据集，作为学习的机会，我从头开始编写多项式。
我尝试了多种不同的批处理大小(50、100、200)和学习率(.001、.05、.1、.5)。
我似乎仍然不能超过1%，所以我想知道我的代码中是否遗漏了什么，或者这是否是我使用浅层学习方法所能得到的最好的结果。我尝试了使用sklearn进行逻辑回归，可以得到大约7% (我知道，非常糟糕！)，并试图在tensorflow中重新创建它的代码。
有没有办法判断它是否真的在改善？任何帮助都是非常感谢的！谢谢
import numpy as np
import tensorflow as tf
from keras.datasets i
浏览 8提问于2019-08-12得票数 0
回答已采纳
1回答
我生成了一些分散的数据，并希望将它们插入到网格中。我试图绘制凸包(因为描述了其他用户的问题)，但也只得到了错误。
R = 2;
r = 7;
alpha_degree = 90;
alpha_rad = alpha_degree*pi/180;
theta = linspace(0,2*pi,100);
phi = linspace(0,pi,100);
[Phi,Theta] = meshgrid(phi,theta);
x = r.*sin(Theta);
y = (R+r.*cos(Theta)).*cos(Phi);
z = (R+r.*cos(Theta)).*sin(P
浏览 4提问于2022-06-15得票数 0
我目前正在尝试TensorFlow和机器学习，作为一个挑战，我决定尝试并在Kaggle网站上编写一个机器学习软件，它可以分析脑部MRI扫描结果，并预测肿瘤是否存在。我用下面的代码这样做了，并开始训练模型。然而，在训练过程中显示的文本显示，没有一个损失值(训练或验证)具有正确的值，并且精确度平坦，或在两个数字之间波动(每次相同的数字)。
我看过其他帖子，但找不到任何能给我提示的东西。我更改了损失函数(从sparse_categorical_crossentropy改为binary_crossentropy)。但这些都不会改变这些值。
import numpy as np # linear alg
浏览 2提问于2019-07-30得票数 0
1回答
为什么我的损失在情节中是垂直的？我正在训练一个多头回归模型，只有一个输出在Keras & TF中。
我把头几个时代的损失包括在内：
'history': {'loss': [87756.7265625, 15.339912414550781, 0.4351891875267029, 0.413672536611557, 0.4036506116390228, 0.4017665684223175, 0.4009793996810913, 0.40057373046875, 0.4004470109939575, 0.40035486221313477,
浏览 1提问于2021-12-31得票数 -1
回答已采纳
我有一个网络，在训练过程中损失突然变坏了。经过调查，我发现其中一个权重变成了NaN。我不明白的是，当我通过它运行数据(计算)时，输出不是NaN。为了确保权重确实连接到输出，我更改了它的值，输出也发生了变化。就我的问题而言:当我将权重从NaN更改为0.0时，我得到了相同的输出(与NaN相同，但与其他值不同)。这怎麽可能？
浏览 0提问于2019-07-13得票数 0
1回答
Model返回NAN值
、、、
我试图构建一个具有4个输入节点/特征和一个输出特征(0/1)的神经网络。我编写了这段代码，它可以运行，但在训练过程中，模型返回NaN。我也进行了调试，在通过模型之前，权重和偏差都是正常的。
根据我到目前为止的搜索，这可能是我传递数据的方式的问题。我的输入数据是：tensor([[0.0000e+00, 0.0000e+00, 0.0000e+00, 1.5340e+00], [1.5000e+01, 1.0000e-01, 2.4210e+00, 3.0000e+01], [3.0000e+00, 2.2000e-01, 2.2000e-01, 4.5000e+
浏览 13提问于2019-03-10得票数 0
全,
当训练一个具有大量样本的大型模型时，当参数更新时，一些样本可能会产生NaN梯度。
我想把这些样本找出来。同时，我不希望这个批量样本的梯度更新模型的参数，因为这可能是导致模型的参数为NaN。
那么有没有人有好主意来解决这个问题呢？
我的代码如下：
# Create an optimizer.
params = tf.trainable_variables()
opt = tf.train.AdamOptimizer(1e-3)
gradients = tf.gradients(self.loss, params)
max_gradient_norm
浏览 0提问于2016-11-20得票数 5
1回答
我试图在Keras中实现一个噪声/信号比损失函数。我翻译了与torch一起工作的的代码。不确定我使用的tf.math操作是否与torch的功能相同。当我训练的时候，我一直在接受loss: nan - val_loss: nan。我做错了什么？任何帮助都是非常感谢的。谢谢
def noiseToSignalLoss(y_true, y_pred):
losses = tf.math.divide(
tf.math.reduce_sum(
tf.math.pow(
tf.math.abs(
浏览 1提问于2021-07-31得票数 0
回答已采纳
1回答
我正在对一些数据进行深入学习二进制分类，并得到了非常奇怪的结果与精度度量。在最初的几个时代里，它一点也不改变，然后它就沿着这条奇怪的线性路径。我在下面附了一张照片。有人能告诉我这意味着什么，因为我是新的机器学习，我已经习惯了很好的对数图形？
📷
浏览 0提问于2022-06-15得票数 1
回答已采纳
3回答
我有一个C/C++应用程序，它以字符串的形式将数值写入redis。我还有一个Java应用程序，它将从redis中读取这些值。有时，出于有效的原因，我们会得到一个浮点值，其值为NaN或-NaN。但是，在使用sprintf(charPtr, "%e", dblVal);时，该值将以nan的形式输出。我还在%E中尝试了同样的语句，结果产生了NAN。当Java试图通过Float.parseFloat()或Double.parseDouble进行解析时，它会抛出一个NumberFormatException。
这个应用程序已经从Solaris移植到Linux，随后进行了一些Linux升级
浏览 1提问于2019-02-20得票数 0
回答已采纳
我的最终目标是找到满足某种条件的有效列表。我有几个lits，它们有几个float和np.nan值。我喜欢选择在某些范围内没有nan值的列表。
这是我的名单之一。
list =
[ nan -38.10940798 -52.15497422 -68.94011301 -112.58576732
-110.27810095 -110.61354039 -131.82121921 -137.27076671 -134.34755197
-125.4644195 -128.78669345 -134.30116567 -136.47002098 -142.1436137
浏览 0提问于2019-05-16得票数 1
回答已采纳
1回答
三重损耗的损失--流动
、、、
我试图在TensorFlow (tensorflow==1.13.1)中训练一个三重态损失模型，但是在第一次迭代之后，损失会转移到NAN上。我已经从这个论坛上读到了很多提示，但是到目前为止没有什么效果。较小的学习率(0.0001.0 1~0.0 1)。还尝试了更大的批次大小，因为有人建议，如果批的大小太小，批处理可能不包含完整的三重奏。但是，我使用以下代码构建了批处理：“”
def get_triplets(self):
a = random.choice(self.anchors)
p = random.choice(self.positives[a])
n = ra
浏览 3提问于2021-04-24得票数 2
1回答
为什么损失会增加？
、、、
执行下面的代码有时会导致在培训期间损失增加，然后停留在那里。为什么会这样呢？
import tensorflow as tf
from tensorflow.keras import layers, losses, models
FEATURE_COUNT = 2
TRAINING_SET_SIZE = 128
def patch_nans(t: tf.Tensor) -> tf.Tensor:
""":return t with nans replaced by zeros"""
nan_mask = tf.math
浏览 6提问于2020-02-22得票数 0
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM活动推荐
腾讯云开发者
