我在中读到，keras自定义损失函数必须为每个批处理项返回一个标量。
我写了一个损失函数，输出整个批次的标量，网络似乎收敛了。但是，我找不到任何关于这方面的文档，也找不到代码中到底发生了什么。什么地方有广播吗？如果我添加样本权重会发生什么？有人知道魔术发生的地方吗？
谢谢!
浏览 0提问于2018-08-30得票数 5
回答已采纳
1回答
我用100000个样本在Keras中训练了一个通用模型，并取得了良好的性能。然后，对于特定样本，我希望使用训练的权重作为初始化，并继续优化权重，以进一步优化特定样本的损失。
然而，出现了这个问题。首先，我通过keras轻松地加载训练过的权重，然后对一个特定样本的损失进行评估，该损失与模型训练过程中验证损失的损失非常接近。我认为这是正常的。然而，当我使用训练后的权重作为输入，并进一步优化model.fit()对一个样本的权重时，损失是非常奇怪的。比评价结果高得多，经过几个时期后逐渐恢复正常。
我认为奇怪的是，对于同一个简单的和加载相同的模型权重，为什么model.fit()和model.eval
浏览 0提问于2018-12-23得票数 0
我有一些带有以下代码片段的神经网络，请注意batch_size == 1和input_dim == output_dim：
<code>A0</code>
目前，上面的神经网络工作得很好，但它非常慢，因为它会在每个样本(批量大小= 1)中更新梯度。我希望将批处理大小设置为> 1，但my_fn_that_only_takes_in_vectors不能容纳第一维不是1的矩阵。由于我的自定义损失的性质，将批处理输入平整为长度矢量(batch_size * input_dim)似乎不起作用。
既然输入和输出都是N x input_dim，其中N> 1，我该如何编写新
浏览 23提问于2019-12-04得票数 0
1回答
如何在Keras中手工计算损失？
、、、、
我使用的是损失函数：
meanAbsoluteError = tf.keras.losses.MeanAbsoluteError()
还有一个模型：
model.compile(optimizer=tf.keras.optimizers.Adam(0.001), loss=meanAbsoluteError)
现在我训练它，了解历史：
history = model.fit(train_features, train_labels, epochs=100, validation_data=(test_features, test_labels))
我可以看看到底损失有多低：
print(his
浏览 11提问于2022-03-30得票数 1
回答已采纳
1回答
如何一个接一个地加速损失计算
、、、、
我正在构建一个自动编码器，并验证模型的进展--在每个时代之后计算MSE和MAE，验证集中的每个条目：
for validation_sample in x_pred:
prediction = autoencoder.predict(validation_sample)
current_validation_mae.append(keras.backend.eval(keras.losses.mean_absolute_error(validation_sample, prediction)))
current_validation_mse.append(keras.back
浏览 3提问于2020-01-29得票数 0
回答已采纳
keras的输出或train_on_batch是当前批次的平均值还是所有训练样本的全局平均值？
浏览 0提问于2019-08-29得票数 0
在keras的所有代码示例中，我看到输入形状是直接传递的，并且推测批处理大小是第一个，例如：
model = Sequential()
model.add(Dense(32, input_shape=(16,)))
# now the model will take as input arrays of shape (*, 16)
# and output arrays of shape (*, 32)
但是，当涉及到自定义损失时，我看到使用了最后一个轴(轴=-1)。
def loss(y_true,y_pred):
return K.mean(K.square(y_pred
浏览 0提问于2019-11-30得票数 1
当我训练tensorflow模型时，它通常会在每次迭代中输出类似于下面一行的信息 INFO:tensorflow:loss = 1.9433185, step = 11 (0.300 sec) 打印的损失是模型当前看到的批次的损失，还是所有先前训练批次的运行平均损失？ 如果我使用批次大小为1的批次，即每批只有一个训练样本，那么打印的损失将是每个样本单独的损失，或者它是运行平均损失吗？
浏览 57提问于2021-08-23得票数 1
2回答
在Keras中，如何比其他样本(样本权重)更重要？
我不是在寻找class_weight，它是对不平衡数据集的修复。
我目前拥有的是：
trainingWeights，这是我想要给每个样本的期望的重要性。
epochs = 30
batchSize = 512
# Fit model with selected data
model.fit(trainingMatrix, trainingTargets,
batch_size=batchSize, epochs=epochs,
sample_weight=trainingWeights)
然而，训练
浏览 0提问于2018-05-02得票数 18
回答已采纳
1回答
我已经使用Keras (1)实现了贝叶斯SegNet。为此，我使用了以下自定义损失函数，该函数对验证损失执行贝叶斯推断： def custom_loss_Bayesian(y_true, y_pred):
train_loss = K.categorical_crossentropy(y_true, y_pred)
output_list = []
for i in range(n_MoteCarlo_Samples):
outpu
浏览 12提问于2019-09-19得票数 0
在普通的ANN中，每个训练样本由一行矩阵表示，通过这种方式，可以处理成批的训练数据，但在CNN中，如何处理多个图像。
浏览 49提问于2019-03-11得票数 0
回答已采纳
我试图评估单个2D测试样本的MSE损失，在Keras中使用一个自动编码器(AE)，一旦模型被训练，我很惊讶当我调用Keras内置函数来获取单个样本的丢失时，它会返回2D张量。这意味着损失函数计算每个样本的每个像素损失，而不是每个样本计算一个损失(?)。为了非常清楚，我期望MSE将所有像素上计算的平方误差的平均值与每个2D样本相关联(正如我在这个上所读到的)。
由于在使用.predict()和.evaluate()训练我的AE之后，每个测试样本没有得到一个标量MSE错误(也许我也遗漏了一些东西)，所以我继续尝试直接使用keras.losses.mean_squared_error()，逐个样本。
浏览 0提问于2019-08-19得票数 3
回答已采纳
我想用keras的预训练模型进行迁移学习
import tensorflow as tf
from tensorflow import keras
base_model = keras.applications.MobileNetV2(input_shape=(96, 96, 3), include_top=False, pooling='avg')
x = base_model.outputs[0]
outputs = layers.Dense(10, activation=tf.nn.softmax)(x)
model = keras.Model(inputs=base
浏览 0提问于2019-07-30得票数 1
2回答
Keras损失值显著跳跃
、、、、
我正在用Tensorflow在Keras开发一个简单的神经网络。损失值从上一批小批次的L-1显著上升到第一批小型的历元L。
我知道损失应该会随着迭代次数的增加而减少，但是在每个时期之后损失的大幅增加确实看起来很奇怪。下面是代码片段
tf.keras.initializers.he_uniform(seed=None)
initializer = tf.keras.initializers.he_uniform()
def my_loss(y_true, y_pred):
epsilon=1e-30 #epsilon is added to avoid inf/nan
y_
浏览 7提问于2022-05-04得票数 0
回答已采纳
我用Keras生物医学图像分割来分割脑细胞。我用了model.evaluate()，它给了我骰子系数: 0.916。然而，当我使用model.predict()，然后循环通过计算骰子系数预测图像，骰子系数是0.82。为什么这两个价值观是不同的？
浏览 7提问于2017-06-10得票数 53
回答已采纳
1回答
根据Keras文档的说法，sample_weight可以用于训练数据中的任何样本在损失中的不同重要性。
我在谷歌上搜索了一下，但没有找到我的问题的答案如下：
sample weights是否参与衍生产品？换句话说，Keras是使用这些权重来训练模型，还是只产生不同的损失值？即，导数是“静态”计算的w.r.t。对“未加权”损失？
因为损失函数实际上并不是基于样本权重来定义的，所以它只是(作为参数)传递给Keras中的fit函数。
浏览 0提问于2020-03-21得票数 6
我们使用我们自己的数据集，使用14000张图像作为训练集，5261张图像作为验证集，尝试了使用Keras ResNet50应用程序(Tensorflow作为后端)的迁移学习。对于训练和验证，我们得到的训练结果在损失和准确性方面都有很大的不同。然后，我们尝试使用相同的图像进行训练和验证，即使用14000张图像进行训练，并使用相同的14000张图像进行验证，尝试的训练结果是相似的，即高训练精度和低验证精度。
Keras版本: 2.1.6
Tensorflow版本: 1.8.0
代码(用于训练和验证的相同数据集)如下所示，
from __future__ import print_function
浏览 2提问于2018-05-22得票数 3
2回答
如何在多类图像分类中获得权值图
、、、、
我正在使用keras和TensorFlow进行多类图像分割。我训练的网络给了我很好的预测，但无法分离接触的对象，这就是为什么我想使用具有"weights"参数的softmax_cross_entropy损失函数。
知道我的y_true形状是(batch-size,128,128,3)，我如何计算这些权重？
tf.losses.softmax_cross_entropy(y_true,y_pred,weights=my_weights)
浏览 0提问于2019-04-18得票数 2
当我使用.fit()层训练模型时，会将参数shuffle预设为True。
假设我的数据集有100个样本，批处理大小为10。当我设置shuffle = True时，keras首先随机选择样本(现在100个样本具有不同的顺序)，并在新的顺序上开始创建批: batch 1: 1-10，batch 2: 11-20等等。
如果我设置了shuffle = 'batch'，它应该如何在后台工作？直观地讲，使用前面的100个样本数据集的示例，批次大小= 10，我猜测keras首先将样本分配给批次(即批次1:遵循数据集原始顺序的样本1-10，批次2:遵循数据集原始顺序的11-20，批次3 ..
浏览 2提问于2017-08-08得票数 5
回答已采纳
1回答
我有一个前馈回归网络(在具有TensorFlow后端的Keras中)，具有单个隐藏层(30个神经元)和具有2个神经元(对于复信号的虚部和实部)的输出层。...My问题是如何准确计算均方误差损失？因为对于每个时期，我在"history object“中只得到一个数字。最终，我想在每个时期提取每个输出神经元的单独损失数，在Keras中可能吗？
浏览 5提问于2021-07-07得票数 0
我开始学习使用Keras的CNN。我在用theano后端。
我不明白如何将值设置为：
batch_size
steps_per_epoch
validation_steps
如果我在训练集中有24万个样本，在测试集中有80000个样本，那么batch_size、steps_per_epoch和validation_steps的值应该是多少？
浏览 0提问于2018-03-30得票数 59
回答已采纳
我看到了一个代码示例(太大了，无法粘贴在这里)，作者使用的是model.train_on_batch(in, out)而不是model.fit(in, out)。Keras的官方文件说：
一批样本的单一梯度更新。
但我不明白。它和fit()是一样的吗，但是它不是做很多前馈和反向支持的步骤，而是做了一次吗？还是我错了？
浏览 0提问于2018-01-31得票数 12
回答已采纳
下面的代码是尼尔森的第一个mnist代码到Keras的翻译。令人惊讶的是，对于训练数据，.fit方法的最后一个精度值和.evaluate方法的精度值是不同的。正如我所预期的，对于验证数据，准确性是相同的。同样的行为也表现在损失上。我很想知道到底发生了什么。
import numpy as np
from tensorflow import keras
from tensorflow.keras import layers
num_classes = 10
input_shape = (28, 28, 1)
# the data, split between train and test s
浏览 0提问于2021-04-11得票数 0
我有一个生成器函数，它在一些图像目录上无限循环，并输出3元组的批处理表单。
[img1, img2], label, weight
其中img1和img2是batch_size x M x N x 3张量，label和weight分别是batch_size x 1张量。
在使用Keras训练模型时，我为fit_generator函数提供了这个生成器。
对于这个模型，我有一个自定义余弦对比损失函数，
def cosine_constrastive_loss(y_true, y_pred):
cosine_distance = 1 - y_pred
margin = 0.9
浏览 3提问于2019-09-18得票数 7
回答已采纳
1回答
我的问题是函数是否适合于keras 中的参数。当我们有一个以x为输入，y为输出的模型时。然后，如果我们有一批具有输入x和目标输出y的样本，则可以使用model.fit(x,y)更新模型。假设我们有一个损失函数l(x,y)，model.fit(x,y)所做的就是按如下方式更新模型的权重w
德尔塔=0
对于批处理的每一个样本I: delta <--增量+相对w的损失梯度(x_i，y_i)
W <-- w+ delta
现在，假设我们希望按以下方式更改更新规则：
德尔塔=0
对于批处理的每个样本I: delta <--增量+ q_i*损失梯度(x_i，y_i)相对于w
W
浏览 0提问于2018-07-25得票数 1
回答已采纳
1回答
我建立了一个keras模型如下(TF 1.2.1)：
import tensorflow.contrib.keras as keras
model = keras.models.Sequential()
...
model.compile(loss=keras.losses.mean_squared_error,
optimizer=keras.optimizers.Adam(lr=1e-4))
model.summary()
Layer (type) Output Shape Param #
浏览 1提问于2017-07-17得票数 1
回答已采纳
批次大小是指在监督学习中接受神经工作训练的样本数，但是，在强化学习的背景下，批次大小的意义是什么？它也是指样品吗？如果是的话，在强化学习的背景下，样本的意义是什么？
浏览 0提问于2019-04-02得票数 3
回答已采纳
我一直在尝试用TensorFlow概率进行一些实验，我有几个问题。
KL损失系数的合适值是多少？
1. In the paper by Blundell (2015), the coefficient is set to `1/M` (where `M` is the number of mini-batches). In the example given by TFP, the coefficient is given as `1/mnist_data.train.num_examples`. Why?
2. As I go from 2d input to 3d images
浏览 1提问于2019-11-14得票数 1
回答已采纳
1回答
Keras中损失函数的意义？
、、、、
我用python中的keras建立了一个神经网络，无法真正理解损失函数的含义。
这里首先介绍一些一般信息:我使用了类为0-9的扑克手数据集，这是我用OneHotEncoding编写的向量。我在最后一层使用了softmax激活，所以我的输出告诉我，如果样本属于某个类，向量中的10个条目中的每个条目的概率。例如:我的实际输入(0，1，0，0，0，0，0，0，0，0，0)，这意味着第1类(从0-9表示从没有牌到皇家同花顺)，第1类意味着一对(如果你知道扑克)。利用神经网络，它得到了像(0.4，0.2，0.1，0.1，0.2，0, 0，0,0,0)这样的输出，这意味着我的样本属于0类，20 %属于1类
浏览 0提问于2020-05-04得票数 0
回答已采纳
我见过一些帖子在一对一的样本上谈论Keras模型的训练.我也从这些帖子中了解到，Keras模型将更新模型权重，即使是在逐个训练的基础上。那么，在这种情况下，现在的问题是，我们如何提供验证拆分，以及我们如何绘制模型的验证图，因为我们不是将整个数据集提供给我们的模型，而是逐行提供数据集？
reduce_lr = tf.keras.callbacks.LearningRateScheduler(lambda x: 1e-3 * 0.90 ** x)
model.compile(optimizer=keras.optimizers.Adam(clipnorm=1.0, clipvalue=0.5),
浏览 1提问于2021-08-14得票数 1
回答已采纳
为什么Tensorflow中Keras API的函数接受batch_size？据我所知，这个参数应该只与管理我们在训练期间每次迭代使用的样本数有关。在模型评估过程中，这种选择有什么影响？
浏览 1提问于2020-05-21得票数 1
我的训练数据有10680个样本，我将拟合设置为： model.fit(X, y, batch_size=32, epochs=5, verbose=1, validation_split=0.1) 这意味着它应该使用90%来训练(9612个样本)，另外10%来检查，对吗？ 但当我尝试运行它时，显示的纪元是： Epoch 1/5
301/301 [==============================] - 25s 85ms/step - loss: nan - accuracy: 0.4999 - val_loss: nan - val_accuracy: 0 它只使用了301个样本进
浏览 14提问于2020-04-02得票数 3
回答已采纳
1回答
我对Keras很陌生，我发现很难理解LSTM layer.The Keras文档中输入数据的形状，因为输入数据应该是带有形状的3D张量(nb_samples、timesteps、input_dim)。我很难理解这种格式。timesteps变量是否表示网络记住的时间步骤的数量？
在我的数据中，几个时间步骤会影响网络的输出，但我不知道提前了多少次，也就是说，我不能说前10个样本会影响输出。例如，输入可以是构成句子的单词。每个句子中的单词之间有着重要的关联。我不知道这个句子的长度，这个长度也因句子的不同而不同。我知道句子什么时候结束(也就是说，我有一个句号表示结尾)。两个不同的句子对另一个没有影响-
浏览 2提问于2017-10-07得票数 0
1回答
神经网络与生成的，因而是无限训练样本的拟合有效吗？
批次的大小还重要吗？培训样本应该在一些批次上重复，还是只使用一次就可以了？
如果没有完整的数据集可供迭代，“纪元”这个术语是否有意义？
如果培训数据集中的每个样本都已经是新的样本，那么验证是否有意义？如果没有，培训损失会像验证损失一样吗？
浏览 5提问于2022-06-06得票数 1
在Keras中，我正在复制一篇我知道epoch和batch_size值的论文的工作。由于数据集相当大，所以我使用的是fit_generator。我想知道如何在steps_per_epoch中设置给定的epoch值和batch_size。有标准的方法吗？
浏览 0提问于2019-03-16得票数 35
3回答
神经网络损失函数-均方误差:关于“n”表示什么的问题
我不明白这个问题的答案是如何回答这个问题的。请帮助我了解以下情况：
让我们来看看一个有10个神经元的输出层。标签/目标也是大小为10的向量，假设我们只有2个样本/实例。
对于第一个样本，我们得到：
输出层：[0.9, 0.1, 0.1, 0.1, 0.1, 0.1, 0.1, 0.1, 0.1, 0.1]
可接收/目标：[1 , 0 , 0 , 0 , 0 , 0 , 0 , 0 , 0 , 0 ]
对于第二个样本：
输出层：[0.2, 0.9, 0.2, 0.2, 0.2, 0.2, 0.2, 0.2, 0.2, 0.
浏览 0提问于2021-05-30得票数 1
我正在研究一些卷积神经网络的东西，我一直在阅读这三个之间的区别，并且遇到了一些问题。我在看这个网站。
在它中，作者说它计算成本函数相对于整个数据集的权重的梯度。我对如何应用整个训练数据集感到困惑。对我来说，随机性具有直观的意义，因为我在模型中输入了一张图像，获得了成本函数的预测，然后进行了优化。如何将多个值应用于小批量和批量梯度下降的成本函数？
谢谢
浏览 0提问于2017-03-19得票数 0
我脑子里有个急迫的问题，到处都找不到答案。在训练期间，至少在Keras中，训练损失是在当前批中计算的，因此可以更新权重。因此，至少在第一个时期，每一批损失都是在模型实际从那个特定的时期学习之前计算出来的。考虑到这一点，第一个阶段的验证损失不应该有点接近于第一个阶段的训练损失，因为两者都是根据梯度下降算法看不到的例子计算的吗？到目前为止，我建立的每一个模型，训练损失总是低于验证损失。我预计，在第一次运行数据集时，培训损失会接近验证损失，然后，当模型从培训数据集(但不是从验证数据集)中学习时，这些错误将开始在它们之间造成差距。我是不是错过了一些琐碎的东西？
浏览 0提问于2020-04-23得票数 1
1回答
我正在使用卡格尔数据集的压力特性，从心电信号，我想训练一个美国有线电视新闻网，以识别压力/非应激情况。
我在Keras建立了一个模型：
model = tf.keras.models.Sequential([
tf.keras.layers.Conv2D(U1, (3, 1), activation = 'relu', input_shape = (num_features, 1, 1)),
tf.keras.layers.Conv2D(U2, (3, 1), activation = 'relu'),
tf.keras.layers.F
浏览 0提问于2019-10-02得票数 0
回答已采纳
2回答
推荐系统中的不平衡数据集
、、、
我正在与keras建立一个推荐系统。训练集有超过200K的样本，但180K来自评级4。这里给出了分布。
评分5.0 89 4.0 187836 3.0 20032 2.0 6185 1.0 648 0.0 36 dtype: int64
显然，对于代表较少的标签，该模型失败了。我该如何解决这个问题？
我试过SMOTE，但没有用。
浏览 2提问于2019-04-11得票数 1
1回答
我已经在tf.keras中为一个多标签分类问题实现了一个自定义指标。
def multilabel_TP(y_true, y_pred, thres = 0.4):
return (
tf.math.count_nonzero(
tf.math.logical_and(tf.cast(y_true, tf.bool),
tf.cast(y_pred >= thres, tf.
浏览 11提问于2020-05-19得票数 1
回答已采纳
📷
我的问题是：
假设我们有一个3乘1的神经网络，类似于图像中的神经网络(输入层有3个神经元，输出层有一个神经元，没有隐藏层)，当给神经网络输入一个训练样本(即feature1、feature2、feature3输入)时，我发现不存在计算正向和反向传播输出的问题，而且我知道我的初始权重是如何优化的，我发现的问题是，每次给神经网络多个训练输入时，我不知道初始权值是如何优化的。
例如，我们有3×3矩阵的训练输入。
[[195, 90, 41],
[140, 50, 30],
[180, 85, 43]]
第一列是高度，第二列是重量，第三列是鞋的大小，我们用第一行、第二行和第三排给NN。我们知道，在
浏览 0提问于2018-07-07得票数 3
1回答
我必须使用Keras在R中创建一个自定义丢失函数。我在R语言中的损失函数是微不足道的：
lossTradingReturns = function(y_true, y_pred) {
y_true_diff = na.trim(diff(log(y_true)))
y_pred_diff = na.trim(diff(log(y_pred)))
sum( -(sign(y_pred_diff) * y_true_diff) )
}
我把它翻译成Keras for R如下：
lossTradingReturns = function(y_true, y_pred) {
y_tr
浏览 0提问于2018-06-13得票数 0
2回答
我读到了TensorwFlow (tf)用户文档中的最小平方错误(MSE)。
当我硬编码MSE并打印计算出的每个损失时，我观察到一个与tf报告的值不同的值。
import numpy as np
import random
import tensorflow as tf
from tensorflow import keras
m = 200
n = 5
my_input= np.random.random([m,n])
my_output = np.random.random([m,1])
def obj(y_true,y_pred):
loss = tf.keras.
浏览 1提问于2021-10-19得票数 4
回答已采纳
1回答
我正在训练一个模型，通过Keras执行二进制分类。在我的模型训练完成后，我尝试评估它，如下所示： # Evaluate the model
print('Evaluate on test data')
loss, acc = model.evaluate(X_test, y_test, verbose=2)
print('Test loss: %.4f' % loss)
print('Test accuracy: %.4f' % acc) 我得到了这样的结果： Evaluate on test data
116/1 - 0s - loss: 0
浏览 23提问于2020-01-21得票数 0
回答已采纳
我正在训练一个神经网络的批量与Keras 2.0软件包的Python。以下是有关数据和培训参数的一些信息：
#列车上的样本: 414934
#特征: 590093
#类:2(二进制分类问题)
批次大小: 1024
#批= 406 (414934 / 1024 = 405.2)
下面是以下代码的一些日志：
for i in range(epochs):
print("train_model:: starting epoch {0}/{1}".format(i + 1, epochs))
model.fit_generator(gener
浏览 3提问于2017-05-23得票数 7
回答已采纳
在计算Keras (或Tensorflow)中的损失时，是否有一种简单的使用有非均匀惩罚的方法？我的意思是，假设你有5000个训练样本，它们不一样重要，在某些情况下，我们更愿意得到更准确的预测，甚至牺牲了对其他几个样本的不准确估计。我已经有了一些代表样本重要性的系数。
有没有办法在Keras或Tensorflow上实现这样的模型？
浏览 2提问于2019-09-18得票数 0
回答已采纳
1回答
我想在Keras (优化器Adam)中训练一个CNN，并在每个ConvLayer和每个激活层之前使用批处理规范化。到目前为止，我主要看到的例子是进行培训的批量大小为32或64个样本。难道不应该确保每个时代的最后一批样品仍然包含32或64个样本，而不是明显少一些的样本？我的意思是，如果我有500个训练样本，50的批次是否比32件64件的批次要好呢？
浏览 0提问于2019-12-15得票数 1
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储活动推荐
腾讯云开发者
