通过阶跃增加减少自定义损失函数中的权重
是一种调整模型训练过程中不同类别样本权重的方法，通常用于处理类别不平衡的问题。在分类任务中，如果某个类别的样本数量较少，而其他类别的样本数量较多，模型容易偏向于多数类别，导致少数类别的分类效果不佳。为了解决这个问题，可以使用自定义损失函数，并通过增加少数类别的权重或减少多数类别的权重，来平衡不同类别的影响。
具体而言，阶跃增加减少权重的方式可以通过设置一个阈值，当样本数量小于阈值时，增加该类别的权重；当样本数量大于阈值时，减少该类别的权重。这样做的目的是让模型更关注少数类别，提高其分类性能。
该方法的优势在于能够有效解决类别不平衡问题，提升模型对少数类别的分类准确率。它可以广泛应用于各种分类任务中，特别是在医疗诊断、金融欺诈检测等需要高召回率的场景中。
腾讯云提供了一系列适用于云计算领域的产品，其中包括云计算基础设施、人工智能服务、大数据分析、物联网解决方案等。相关产品如下：
- 云服务器（Elastic Cloud Server，ECS）：腾讯云提供的弹性云服务器实例，可满足不同规模应用的需求。详细信息请参考：云服务器产品介绍
- 人工智能平台（AI Platform）：提供各类人工智能能力和算法模型，包括图像识别、语音识别、自然语言处理等。详细信息请参考：人工智能平台产品介绍
- 云数据库（TencentDB）：可提供关系型数据库、NoSQL数据库等多种选择，满足不同应用场景的需求。详细信息请参考：云数据库产品介绍
- 云原生应用平台（Cloud Native Application Platform，TKE）：提供容器化的应用部署与管理服务，方便开发者进行应用的构建和部署。详细信息请参考：云原生应用平台产品介绍
- 物联网解决方案：腾讯云提供丰富的物联网解决方案，包括物联网设备接入、数据传输和管理平台。详细信息请参考：物联网解决方案产品介绍
总之，通过阶跃增加减少自定义损失函数中的权重是一种有效处理类别不平衡问题的方法，在腾讯云的产品中，可以利用云服务器、人工智能平台、云数据库、云原生应用平台和物联网解决方案等产品来支持相关的云计算任务。
相关·内容
1回答
损失和正则化推理
、、、
我正在为MovieLens数据集建立一个矩阵分解模型，并进行批量训练。批处理损失函数：
L_{batch} = 1/|B|\sum_{(u,i)\in{B}}(r_{ui} - \mu - b_u - b_i - p_u^Tq_i)^2 + \lambda(||p_u||^2 + ||q_i||^2)
L_{batch} = (L_{base\_loss} + L_{reg\_loss})/|B|
L_{base\_loss} = \sum_{(u,i)\in{B}}(r_{ui} - \mu - b_u - b_i - p_u^Tq_i)^2
L_{reg\_loss
浏览 0提问于2019-01-18得票数 2
回答已采纳
3回答
在神经网络中，梯度下降会查看整个训练集以计算梯度。成本函数随着迭代的进行而减小。如果代价函数增加，通常是因为错误或不适当的学习率。
相反，随机梯度下降计算每个单个训练示例的梯度。我想知道成本函数是否有可能从一个样本增加到另一个样本，即使实现是正确的并且参数调整得很好。我有一种感觉，代价函数的异常增量是可以的，因为梯度是在单个样本的最小化之后进行的，这可能不是整个系统的收敛方向。
在随机梯度下降中期望成本函数的增量吗？
浏览 2提问于2018-05-16得票数 0
5回答
如何修复这些消失的渐变？
、、、、
我正试图为twitter情感分类培养一个深度网络。它由一个嵌入层(word2vec)、一个RNN层、2个conv层和2个密集层组成。对所有激活函数使用ReLU。
我刚刚开始使用张力板&注意到我的卷积层重量似乎有极小的梯度(见图)。
📷
我相信我有消失的梯度，因为CNN过滤权重的分布似乎没有变化&相对于权重，梯度是非常小的(见图)。注意:图中显示了第1层，但第2层看起来非常相似.
我的问题是：
1)我是否正确地解释了这些情节，即我确实有逐渐消失的渐变&因此我的卷积层没有学习？这是否意味着它们目前基本上一文不值？
2)我能做些什么来纠正这种情况？
谢谢!
更新3/13/18
浏览 0提问于2018-03-08得票数 5
我通过两种方式保存keras模型1。"ModelCheckpoint“2. "save_weights”训练后模型 但是当使用"load_weights“和"predict”加载训练模型时，这两种方法的性能是不同的。 我的代码如下 训练和保存模型 model_checkpoint = ModelCheckpoint("Model_weights.hdf5", verbose=1, save_best_only=True) early_stopping = EarlyStopping(monitor='val_loss', pat
浏览 63提问于2020-06-15得票数 1
回答已采纳
我在NN上学习。我知道它是如何工作的粗略想法，但仍然有一件事不清楚。为什么我们要把负号放在导数前面？在导数本身是负的情况下，它不应该只是导数吗？我的意思是，如果点a的梯度已经是负的，那么负号就不应该出现。难到不是么？请帮帮忙。
浏览 0提问于2019-02-09得票数 0
如何解释损失函数的早期突然增加，然后是正常减少？
数据: 128x128x4图像(随机拆分:60%训练，20% val，20%测试) gt :一个热编码128x128x3 (因为有3个不同的类别)
型号: unet (图像分割) lr :0.01%至0.0001 (lr在平台上降低)批量大小: 16
这是我训练的图表：和
为什么在前3个推论中，损失是减少的，然后在单个时期突然增加？
浏览 2提问于2019-07-09得票数 0
1回答
我在Python中创建了一个多元线性回归的简单实现，它的工作原理与预期一样。但是对于某些特定的数据集，成本函数并没有减少，无论我使用多少次迭代或使用什么学习速率。
举个例子
X=
Y= 26.3、26.65、25.03、26.01、27.9、30.47
即使经过100000次迭代，学习速率为0.04，成本函数也不会低于0.24。
我的执行有什么问题吗？
import numpy as np
'''
Linear Regression algorithm:-
feature_count - No. of independent variables.
Attribut
浏览 0提问于2022-04-14得票数 -1
我有一个网络，在训练过程中损失突然变坏了。经过调查，我发现其中一个权重变成了NaN。我不明白的是，当我通过它运行数据(计算)时，输出不是NaN。为了确保权重确实连接到输出，我更改了它的值，输出也发生了变化。就我的问题而言:当我将权重从NaN更改为0.0时，我得到了相同的输出(与NaN相同，但与其他值不同)。这怎麽可能？
浏览 0提问于2019-07-13得票数 0
2回答
我给小批量数据建模，我只想知道如何处理损失。我能不能累积损失，然后召唤落后的人，比如：
...
def neg_log_likelihood(self, sentences, tags, length):
self.batch_size = sentences.size(0)
logits = self.__get_lstm_features(sentences, length)
real_path_score = torch.zeros(1)
total_score = torch.zeros(1)
浏览 0提问于2019-03-27得票数 5
1回答
我目前正在使用一个稀疏自动编码器，我所理解的是，我们不需要所有隐藏单元为每个输入触发，而是根据输入类型的不同一些特定的隐藏单元。为此，我们在损失函数中添加了一个稀疏正则化项。但我无法理解如何将这个正则化项添加到损失函数中，以帮助我们阻止某些隐藏的单位触发？。
浏览 2提问于2020-05-12得票数 0
1回答
我在不同的地方见过这样的说法: l1正则化比l2更能惩罚权重。
但l1范数的导数为\lambda，l2范数为2\lambdaw，因此l1正则化减去的值比l2小。那么为什么l1比l2更能惩罚重量呢？还是这样说是不对的？
浏览 0提问于2020-05-17得票数 6
回答已采纳
1回答
我正在尝试从头开始实现一个2层神经网络。但是有些地方不对劲。经过一些迭代，我的损失变成了nan。
'''
We are implementing a two layer neural network.
'''
import numpy as np
x,y = np.random.rand(64,1000),np.random.randn(64,10)
w1,w2 = np.random.rand(1000,100),np.random.rand(100,10)
learning_rate = 1e-4
x -= np.mean(x,axis=0
浏览 0提问于2018-02-08得票数 1
1回答
我的模型-
model = Sequential()
model.add(Dense(128, activation='relu', input_dim=n_input_1))
model.add(Dense(64, activation='relu'))
#model.add(Dense(32, activation='relu'))
#model.add(Dense(16, activation='relu'))
model.add(Dense(1))
model.com
浏览 4提问于2020-03-14得票数 0
我有一个三级图像分类问题。这些类是高度不平衡的(大约98%的图像低于一个类)。为了抵消这个不平衡的数据，我用类概率的反比(1/(类的比例))来加权损失。这意味着，对于少数族裔阶层来说，损失会成倍增加。这确实有助于消除阶级不平衡。
但是，对于此加权损失，我使用训练数据集中的比例。在验证数据集中，val集的分布有所不同(分别为96.66%、2.59%、0.75%，而在训练集中分别为98.28%、0.98%、0.73% )。这意味着，如果我使用基于训练集的权重，主要是错误分类的1类图像会受到比它们在验证集中的分布更多的惩罚。
造成这种分布差异的原因是，我不能随意分割我的图像，因为它们是由大约10台摄
浏览 0提问于2018-04-25得票数 2
回答已采纳
2回答
与在支持向量机的相同代价函数中使用2范数权重相比，我们如何通过在代价函数中使用1范数权重来增加稀疏性。
对于1-范数:成本函数- Minimize ||w||_1
对于2范数:成本函数- Minimize ||w||_2
它与LP-SVM有关吗？
浏览 6提问于2012-06-16得票数 1
1回答
我一直认为SGD是一个损失函数，然后我在笔记本上看到了这个。
model.compile(loss="sparse_categorical_crossentropy", optimizer=keras.optimizers.SGD(lr=1e-3), metrics=["accuracy"])
现在我很困惑，损失和优化器有什么区别？它们都是在输出层用来计算损失吗？或者优化器是在每个层中使用的吗？
浏览 0提问于2020-11-18得票数 1
1回答
我知道任何函数的局部极值都需要梯度下降，但是它是如何应用于线性分类器的(例如，单矩阵，两类情况)？如何一步一步地修改这个矩阵的元素？
浏览 0提问于2019-03-11得票数 1
对于tensorflow、python和numpy来说都是新手(我猜这是这个示例中的全部内容)
在下面的代码中，我(几乎)理解了循环中的update_weights.run()调用正在计算损失和开发新的权重。我不明白的是，这实际上是如何导致权值改变的。
我坚持的观点是#这是我不明白的
update_weights.run()和放置在权值中的新值之间的关系是什么？-或者可能；为什么在循环之后调用weights.eval时，值已经改变了？
谢谢你的帮助
#@test {"output": "ignore"}
# Import tf
import tensorflo
浏览 2提问于2016-09-20得票数 1
回答已采纳
这篇文章更多的是要求咨询而不是要求解决问题。我知道keras、回调、提前弯腰和模型检查点可以防止过拟合。当我在restore_best_weights=True中使用早期的弯腰时，由于耐心较小，我有时会错过最好的模型，而当我在save_best_only =True中使用检查点回调时，我需要做很多时期。因此，我认为也许我会以更大的耐心使用提前停止，但我的问题是，在一些时期之后，我的验证损失是非常Z字形的(即，这意味着它变得越来越小，没有任何特定的模式)。我试图找出当验证损失以Z字形方式执行时，最佳选择是什么。
浏览 3提问于2020-09-01得票数 0
1回答
根据Keras文档的说法，sample_weight可以用于训练数据中的任何样本在损失中的不同重要性。
我在谷歌上搜索了一下，但没有找到我的问题的答案如下：
sample weights是否参与衍生产品？换句话说，Keras是使用这些权重来训练模型，还是只产生不同的损失值？即，导数是“静态”计算的w.r.t。对“未加权”损失？
因为损失函数实际上并不是基于样本权重来定义的，所以它只是(作为参数)传递给Keras中的fit函数。
浏览 0提问于2020-03-21得票数 6
2回答
我试着在CIFAR-10数据集上运行一个变分自动编码器，我已经在TensorFlow中为它建立了一个简单的网络，其中的编码器和解码器各有4层，编码矢量大小为256。为了计算潜在损失，我强迫网络中的编码器部分输出日志方差，而不是标准偏差，因此潜在损失函数看起来如下：
latent_loss = -0.5 * tf.reduce_sum(1 + log_var_vector - tf.square(mean_vector) - tf.exp(log_var_vector), axis=1)
我发现这个公式比直接使用KL-散度公式中的对数更稳定，因为后者往往导致无限损失值。我在解码器的最后一层上应用
浏览 0提问于2018-07-19得票数 5
1回答
根据xgboost的文件，正则化是由以下几个方面提供的：
\Omega(f) = \gamma T + \lambda || w||^2
其中\gamma是一棵树的复杂性(即树中的叶子数)。
另一方面，xgboost库中的参数gamma控制节点上的最小分割以继续进行。因此，xgboost软件包所使用的方程式中的\gamma是吗？我找不到任何关于它的参考资料。
浏览 0提问于2021-05-05得票数 1
回答已采纳
1回答
我制作了一个神经网络，并绘制了训练集和验证集的损失图。对于验证，我得到了阶跃函数类型的损失，而对于训练，我得到了这些奇怪的尖峰。现在我知道我的模型没有学到任何东西，因为我的损失很高，但我仍然想知道这些峰值到底意味着什么。我的意思是为什么我会有这些尖峰。我一直在寻找文学作品，但找不到一个解释。可能是在梯度下降期间，我的模型移动到接近局部最优的位置，然后迈出了巨大的一步，然后离开了，但是这些峰值似乎是周期性发生的。我不知道是什么导致了阶跃函数的验证。我也附上了一张图片。
浏览 17提问于2020-06-04得票数 1
回答已采纳
2回答
放电筒中多重损失函数的优化
、、、、
我在PyTorch中训练一个具有不同输出的模型，对于位置(米)、旋转(度)和速度，以及模型必须预测的布尔值为0或1，有四个不同的损失。
AFAIK，这里有两种方法来定义最终损失函数：
一-损失的简单加权和
第二，确定每个损失的定义系数，以优化最终损失。
那么，我的问题是，如何更好地权衡这些损失，以获得最终的损失，正确？
浏览 8提问于2022-03-02得票数 2
我是机器学习的新手，目前正在尝试训练一个具有3个卷积层和1个完全连接层的卷积神经网络。我使用的辍学概率为25%，学习率为0.0001。我有6000个150x200的训练图像和13个输出类。我注意到了一种趋势，我的损失稳步减少，但我的准确率只略有增加，然后又下降了。我的训练图像是蓝色线条，我的验证图像是橙色线条。
我想知道是不是有什么我不明白的地方，或者是什么可能的原因导致了这种现象？这是我的损失函数。
cost = tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits(pred, y))
浏览 1提问于2016-08-03得票数 8
回答已采纳
1回答
每次我使用xgboost (不仅仅是与python一起使用)时，培训消息总是包括每一行中的"0剪枝节点“。例如：
import pandas as pd
from sklearn import datasets
import xgboost as xgb
iris = datasets.load_iris()
dtrain = xgb.DMatrix(iris.data, label = iris.target)
params = {'max_depth': 10, 'min_child_weight': 0, 'gamma': 0, &
浏览 1提问于2016-09-08得票数 2
回答已采纳
1回答
我正在为足球比赛选择最好的投注。我试着把网络做得很深(其中12个隐层以BN和ReLu为激活函数)，但是它导致了渐变问题的消失。
然后，我使其浅层(2-3层以同样的方式)，它在火车组的性能很好，但在验证集较差。我的假设是，在这种配置中，它可以记住所有的可能性(我在火车上有大约14k的例子)。
最后，我在这两个-8个隐藏层之间找到了答案。它在火车和val集上都取得了很好的性能。但我还是有点担心渐变的消失，这可能只是个巧合。
因此，对于我刚才写的东西，我几乎没有什么问题：
你什么时候该担心渐变的消失？我的意思是，我可以检查一些梯度分布在拉伸板，但这不能给我100%的肯定答案。
使用跳过连接会有帮助吗
浏览 0提问于2021-05-02得票数 0
2回答
对于使用softmax分类器进行分类的一个简单问题(C类)，大多数人使用交叉熵损失函数来量化目标。交叉熵损失是：
$$L = -\sum_{i=1}^C y_ilog(p_i)$$
其中$p_i$是分类器的预测分数，$y_i$是地面真值标签.为了更新参数，采用梯度下降的方法使$p_i$的分布尽可能接近$y_i$的分布。假设对于空间中的任意点( $x_i$ )，我们有基本真理标签$y_i =$，这意味着对于$C=3$类问题，$x_i$属于0类。假设softmax分类器在第一次迭代中预测为$p_i =$。在优化具有梯度下降的$L$时，预测会发生如下变化：
.$p_i =$
.$p_i =$
.$p
浏览 0提问于2018-07-10得票数 2
回答已采纳
我在训练CNN。我使用谷歌预先培训的和替代的最后一层分类。在训练中，我遇到了很多问题，我的交叉熵损失变成了nan.After尝试不同的东西(降低学习率，检查数据等)。结果发现，训练批次大小过高。
把培训批次从100件减少到60件，解决了这个问题。你能给出一个解释为什么太大的批次大小导致这个问题与交叉熵损失函数？此外，是否有一种方法可以克服这一问题，以处理更高的批处理大小(有一篇论文建议200+图像的批处理大小以获得更高的精度)？
浏览 0提问于2018-03-01得票数 3
1回答
DQN火炬损失持续增加
、、、、
我正在用实现简单的pytorch算法，从gym中求解CartPole环境。我已经调试了一段时间了，我不知道为什么模型没有学习。
意见：
使用SmoothL1Loss的性能比MSEloss差，但两者的损失都增加了
较小的LR在Adam中不起作用，我已经使用了0.0001，0.00025，0.0005和默认测试。
备注：
我已经分别调试了算法的各个部分，并且可以很有信心地说问题在learn函数中。我想知道这个错误是否是由于我在Py手电筒中误解了detach或其他框架错误所致。
我正试图尽可能接近原文(链接到上面)。
参考文献：
：GitHub要点
：pytr
浏览 4提问于2021-06-01得票数 4
回答已采纳
2回答
如何正确训练扩展数据集
、、、
我训练了我的分类器，在每幅图片上混合了几个类，例如A。分类器能够(几乎)正确地分割图像上的这些类。
现在我得到了更多显示G类图片的数据，为了最小化我的工作，我只在图像上标记了G类，而其他的则没有显示出来(无效)。
我的训练有两个问题：
如果在我的第一个数据集中没有G类的例子(因为它可能是A的子类)，我如何正确地训练它？建议的解决方案:我可以将我的新数据添加到旧的数据中，但是当有G类图像时，我必须告诉CNN，因为我必须以某种方式改变CNN的误差测量。但是怎么做呢？
如果G包含在我的第一个数据集中(假设G是“警车”，而B是“汽车”，但是有些图像显示了警车)，那么在这种情况下，我该如何训练呢？
浏览 0提问于2017-02-14得票数 1
1回答
当使用Tensorflow对象检测API训练对象检测DNN时，它的可视化平台Tensorboard绘制了一个标量regularization_loss_1
这是什么？我知道什么是正规化(使网络擅长通过各种方法，比如辍学)，但我不清楚这种表现出来的损失可能是什么。
谢谢!
浏览 2提问于2018-01-25得票数 25
回答已采纳
我用1000张训练图片和100个测试训练了我自己的ssd coco模型。我只是好奇为什么训练步骤的数量与mAP不成正比，或者为什么在某些训练步骤上mAP较低，如下图所示？ ?
浏览 192提问于2019-05-07得票数 0
2回答
首先，我告诉你我的问题和情况。我想在链子中做多标签分类，我的班级不平衡问题很严重。
在这种情况下，为了计算损失函数，我必须对向量进行切片，例如，在多标签分类中，地面真值标号向量多数为0，其中只有少数元素是1，在这种情况下，直接使用F.sigmoid_cross_entropy应用所有的0/1元素可能导致训练不收敛，所以我决定使用[xx，xxx，.，xxx]片(a是最后一个FC层输出的chainer.Variable )切片特定元素来计算损失函数。在这种情况下，由于标签的不平衡可能会导致稀有类的低分类性能，所以我想在反向传播过程中设置稀有gt-标签变量高的丢失权，但是设置主标签(在gt中出现的太
浏览 1提问于2017-10-09得票数 0
回答已采纳
我遇到了准备在Keras的LSTM层中使用的数据的问题。该数据为1,600,000项时间序列csv，由日期和三个特性组成：
Date F1 F2 F3 2016-03-01 .252 .316 .690 2016-03-02 .276 .305 .691 2016-03-03 .284 .278 .687 ...我的目标是预测未来F1 prediction_period时间步骤的值。了解到Keras的LSTM层以这种格式(示例、时间步骤、维度)接收导入数据，我编写了以下函数将数据转换为这种格式的3D numpy数组(以2016
浏览 0提问于2017-02-21得票数 1
我正在使用Keras训练一个两层一维CNN模型，输入和输出函数为softmax，SGD/adam优化器，但我看到训练精度增加了，而验证精度保持或围绕相同的数字。为什么会发生这样的事情？
74336/74336 [==============================] - 64s 863us/step - loss: 0.3306 - acc: 0.9096 - val_loss: 0.6093 - val_acc: 0.8473
Epoch 2/30
74336/74336 [==============================] - 62s 840us/step - loss
浏览 1提问于2018-07-12得票数 0
2回答
我已经建立了一个用于图像分割的FCN。
我解决这个问题的方法是使用某种加权精度，这样精度实际上说明了识别小对象的性能(现在它获得了高精度，因为许多像素不是对象，并且通过不对任何东西进行分类，精度仍然很高)。
有经验的人，我该如何确定权重？
浏览 2提问于2017-03-21得票数 1
1回答
我试图更好地理解梯度积累是如何工作的，以及为什么它是有用的。为此，我想问一问，这两种可能的具有梯度积累的自定义训练循环的PyTorch类实现之间有什么区别(如果有的话)：
gradient_accumulation_steps = 5
for batch_idx, batch in enumerate(dataset):
x_batch, y_true_batch = batch
y_pred_batch = model(x_batch)
loss = loss_fn(y_true_batch, y_pred_batch)
loss.backward()
if (bat
浏览 18提问于2021-12-23得票数 3
回答已采纳
2回答
我读了很多关于CNN的文章，但我不太明白一些事情：
CLayers中的激活函数是什么？如果我理解得对，这些层中唯一的权重是过滤器中的权重，对于激活函数，需要加权和吗？
计算的工作量应该增加，不是吗？当有许多过滤器时，就会产生许多特征地图(带有点产品的地图)。所有这些都给下一层，所以如果它们和输入图像一样大，并且在第一个CLayer中有10个过滤器，那么第二个CLayer就必须应用第一个层的计算工作量(第二层中的每个过滤器)，或者因为它们都接受所有最后的层输出(特征映射)。
如果有一个以上的层，反向传播如何知道他们必须改变的每一个他们，特别是因为反向传播发生后，所有的层被应用。
(CLayer
浏览 0提问于2021-02-08得票数 1
回答已采纳
2回答
我已经用自己实现的损失函数focal_loss_fixed用PyTorch编写了一段代码。但我的损失价值在每个时代之后都是固定的。看起来权重没有更新。下面是我的代码片段：
optimizer = optim.SGD(net.parameters(),
lr=lr,
momentum=0.9,
weight_decay=0.0005)
for epoch in T(range(20)):
net.train()
epoch
浏览 2提问于2018-10-16得票数 1
我正在使用Tensorflow Estimator训练一个模型，而且我的数据是不平衡的。我想通过加权每个训练例子来纠正这一点。
在原始的Tensorflow中，可以使用。在Estimator中有什么简单的方法可以做到这一点吗？也许构建一个定制的input_fn
浏览 5提问于2017-11-02得票数 4
我刚接触神经网络和R中的mxnet包。我想对我的预测值进行逻辑回归，因为我的观测值是介于0和1之间的概率。我希望通过我拥有的向量obsWeights对我的观测值进行加权，但我不确定在哪里实现权重。在mx.symbol.FullyConnected中似乎有一个weight=选项，但是如果我尝试weight=obsWeights，我会得到以下错误消息
Error in mx.varg.symbol.FullyConnected(list(...)) :
Cannot find argument 'weight', Possible Arguments:
-----------
浏览 3提问于2017-02-18得票数 2
3回答
我参与了一个船舶中转时间预测项目。指的是预测一艘船的货物从A港到B港需要多长时间，以便与最快的承运人公司签约，并告诉客户需要多长时间，因为一家承运人公司需要多少时间(多数情况下更多)。
我们有带有预测变量的历史数据库，重点是如果货物的实际转运时间为10天，则比模型估计的9天差，甚至绝对误差为1。
因此，需要一个自定义的度量来惩罚正误多于负错误，并惩罚绝对大的错误，调用错误=实际预测。
我想使用加权均方误差，但我不知道如何平衡权重。你们能帮我吗？您知道满足这种要求的其他指标吗？
非常感谢！
浏览 0提问于2020-12-09得票数 2
我已经使用tf.GradientTape()编写了我的自定义训练循环。我的数据有两个类。这些类别并不平衡；class1数据贡献了近80%，class2贡献了剩下的20%。因此，为了消除这种不平衡，我尝试编写自定义损失函数，它将考虑这种不平衡，并应用相应的类权重并计算损失。也就是说，我想使用class_weights = [0.2, 0.8]。我找不到类似的例子。
然而，我看到的所有示例都在使用model.fit方法，因为它更容易通过class_weights。我找不到使用使用tf.GradientTape的自定义训练循环的class_weights的示例。
我确实介绍了使用sample_wei
浏览 5提问于2020-12-29得票数 3
在训练logistic回归模型的同时，利用正则化方法可以帮助分配权重，避免对特定权重的依赖，使模型更加稳健。
假设我的输入向量是四维的。输入值为1,1,1,1。如果我的权重矩阵有1，00或0.25 0.25 0.25值，输出可以是1。L2范数给出后权矩阵(因为pow(1，2) > 4*pow(0.25,2) )。我直觉地理解为什么l2正则化在这里是有益的。
但在线性回归的情况下，l2正则化降低了坡度。为什么减少坡度只提供更好的性能，增加坡度也是一种选择？
浏览 0提问于2020-07-26得票数 2
my_model = models.Sequential()
#first convolutional block
my_model.add(Conv2D(16, (3, 3), input_shape = (178, 218, 3), activation="relu", padding="same"))
#add dropout
my_model.add(Dropout(0.5))
my_model.add(MaxPooling2D((2, 2), padding="same"))
#second block
my_model.
浏览 3提问于2021-06-03得票数 0
回答已采纳
1回答
我将实现自定义的Keras损失函数，这在这个中解释了；但是，我必须获得可训练图层的权重。那么，在损失函数的训练过程中，有没有办法读取层的权重呢？
def focal_coef(model, y_true, y_pred, content, label_remap, gamma_focal=2, w_d=1e-4):
w = np.empty(len(content))
f = np.empty(len(content))
for key in content:
e = 0.001
f_c = content[key]
f[
浏览 0提问于2018-10-22得票数 1
1回答
目标
为寻求帮助，建议为什么下面的渐变下降实现不能工作。
背景
完成以下任务，实现逻辑回归。
📷
梯度下降
导出梯度下降，如图中所示。
Typo fixed as in the red in the picture.交叉熵对数损失为- \left [ylog(z) + (1-y)log(1-z) \right ]
📷
实现代码，但是它说是不正确的。
import numpy as np
def LogitRegression(arr):
# code goes here
x = arr[0]
y = arr[1]
a = arr[2]
b = arr[3]
浏览 0提问于2021-12-07得票数 3
1回答
我想联合训练两个自动编码器，并在最深的层连接它们的激活层。
如何在一个损失函数中添加所有项？
假设：
diffLR = Lambda(lambda x: abs(x[0] - x[1]))([model1_act7, model2_act5])
model = Model(inputs=[in1, in2], outputs=[diffLR, model1_conv15, model2_conv10])
model.compile(loss=['MAE', 'mean_squared_error','mean_squared_error'],
浏览 0提问于2019-12-05得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM活动推荐
腾讯云开发者
