现在，我正在测试正则化以及如何使用它们。在我看来，在有和没有正则化的训练课上，损失历史的结果似乎增加了正则化的术语，对吗？当我的模型没有正则化项时，损失值从小于1开始，但是当我用正则化(L1L2)对模型进行再训练时，相同问题的损失值从500开始。我得到的唯一合乎逻辑的解释是，Keras在增加正则化项之后报告了损失值。我相信没有正则</em
浏览 0提问于2018-08-12得票数 2
回答已采纳
10回答
我在许多可用的使用TensorFlow实现的神经网络代码中发现，正则化项通常是通过在损失值中添加一个附加项来实现的。
是否有一种比手动更优雅或推荐的正则化方法？根据我的观察，如果我们将正则化项传递给它(例如tf.contrib.layers.l2_regularizer )，将计算一个表示正则项的张量，并将其添加到一个名为tf.GraphKeys.REGULARIZATOIN_LO
浏览 7提问于2016-05-09得票数 96
回答已采纳
在大多数分类(例如logistic /线性回归)中，在正则化时忽略了偏差项。如果我们不正则化偏差项，我们会得到更好的分类吗？
浏览 0提问于2012-09-25得票数 12
回答已采纳
1回答
科学学习岭回归是否包括正则化项中的截距系数，如果是，是否有一种不对截距进行正则化而运行岭回归的方法？我无法弄清楚的是，这个截距系数是否是优化目标中正则化求和的一部分。
(使用L2规范)。第二个项是正则化项，问题是在我们设置fit_intercept=True的情况下，它是否包括截距系数；如果是，如何禁用
浏览 1提问于2014-09-30得票数 7
1回答
我有时不理解使用正则化项进行优化的模型。在正则化的解释中，可能会出现如下图。
为了简单起见，我忽略了偏置项。
红色方块表示正则化项。蓝色椭圆表示不含正则项的损失函数。正则化
浏览 24提问于2020-02-26得票数 1
1回答
CatBoost是否支持L1正则化？超参数l2_leaf_reg控制成本函数的L2正则化项，但是有什么方法可以使用L1范数吗？
浏览 7提问于2019-10-27得票数 0
正如标题中所述，我希望能够通过创建自定义正则化项来惩罚我的模型权重。input_dim=64,但是，在查看Keras文档()时，我看到：因此，有可能创建这样的自定义正则化程序吗？
浏览 13提问于2020-02-28得票数 0
这个方程可以分为两个项:正则化项和重建项。因此，它变成了但是，许多代码以负号实现此正则化项，例如例如，在中，第79行将正则化项显示为
KLD = -.5 * tf.
浏览 12提问于2017-08-08得票数 2
回答已采纳
1回答
作为我的研究项目的一部分，我编写了一个实现模拟退火的Java搜索程序。然而，这种搜索并不只发生在Java程序中，因为我应该使用另一个用C编写的程序来计算总成本函数。因此，基本上搜索例程将如下所示：
示例成本函数:最小化{A + B}，其中表达式的第一部分A将在我的程序中完成，第二部分B将是从C程序计算的正则化项。我知道我必须这样做似乎真的很奇怪，但是我没有时间/资源/适当的背景来重新实现这个正则化程序作为我的Java</em
浏览 0提问于2013-11-02得票数 0
2回答
截距参数的正则化
、、、、
为什么正则化参数不应用于拦截参数？
根据我所读到的线性和Logistic回归的成本函数，正则化参数(λ)被应用于除截距以外的所有项。
浏览 0提问于2020-05-04得票数 4
1回答
Keras自定义损失计算不正确
、、、、
我正在尝试使用Keras中的自定义损失函数。我的实现类似于： ...
... confidence_loss = self._object_confidence_loss()
self.loc_loss = localizati
浏览 7提问于2018-01-29得票数 3
回答已采纳
1回答
为此，我们在损失函数中添加了一个稀疏正则化项。但我无法理解如何将这个正则化项添加到损失函数中，以帮助我们阻止某些隐藏的单位触发？。
浏览 2提问于2020-05-12得票数 0
我正在使用python学习库进行分类。因此，为了通过交叉验证找到C的最佳值，我使用了LogisticRegressionCV(惩罚=‘l1’，求解器=‘lib线性’)。然而，在这种情况下，所有的系数都是0。使用l2惩罚是没有问题的。此外，带有LogisticRegression()和l1惩罚的单次运行似乎会给出适当的影响。所以我的问题是这样。
在我的例子中使用Logist
浏览 6提问于2015-12-24得票数 3
回答已采纳
我想知道是否有可能在TensorFlow模拟过程中实时改变一些超参数，比如说学习率或正则化。
例如:你正在监控你的神经网络( NN )的成本函数，然后你决定如果你减少正则化项，你的NN可以做得更好。例如，只需在某个地方键入新值，然后在下一个时期更改正则化即可。
浏览 0提问于2018-02-27得票数 1
时，必须在成本函数中加入L2正则化。
在计算成本时，Im没有添加l2或考虑到。这样做不对吗？
浏览 1提问于2016-06-17得票数 2
回答已采纳
Java的正则表达式基于String；Strings是chars的序列(数组)；chars最终是UTF-16代码单元。但是，在BMP之外，单个代码点需要两个char(一个用于领先代理项，另一个用于尾随代理)；从我可以看到的内容来看，除了专用语法引擎之外，我看不到Java (由定义)为这些代码点定义“字符类”的方法，因为尽管可以编写代码来为这样的范围生成正则表达式(嗯，字符串文本用作regexes)，但是Pattern中是否有一种没有文档化并允许这样做的机制？
浏览 3提问于2014-11-12得票数 6
1回答
我在网上读了很多关于正则化是如何工作的文章，其中大多数只是用正则化项来显示方程，但没有用示例数字来解释系数值随lambda的增加是如何变化的。例如: L1正则化X =当lambda改变时，系数(我假设的)值是如何变化的？是因为X是一个固定值吗？
浏览 0提问于2018-10-12得票数 5
回答已采纳
我对Java还很陌生，我面临着一个我无法解决的问题。我有一些html代码，我正在尝试运行一个正则表达式来将所有匹配项存储到一个数组中。下面是我的代码： import java.util.regex.Pattern; // E
浏览 0提问于2011-10-08得票数 3
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
