1回答
谷歌网络优化器
web、ab-testing、google-website-optimizer、web-optimization
我已经在Google优化器上运行了一个A/B测试已经有六个星期了，而且还没有结束。谷歌仍然在说：“我们还没有收集到足够的数据来显示任何重要的结果。
浏览 4提问于2010-06-11得票数 2
回答已采纳
1回答
ADAM优化算法的解释
neural-network、gradient-descent
我是机器学习的初学者，我正在寻找一些梯度下降的优化器。我已经搜索了很多关于这方面的主题，并对所有这些优化器进行了最新的研究。我只有一个问题，我想不出来。请不要评判我，但我想知道？我们是单独使用ADAM优化器，还是必须将其与SGD相结合？我不明白它是单独工作，还是这里优化的不是神经网络，而是神经网络的SGD？
谢谢你的帮助!
浏览 0提问于2018-08-08得票数 3
2回答
神经网络可以作为优化器吗？
machine-learning、optimization
我想知道神经网络是否可以用作优化器。换句话说，作为优化器的network2采用network1的损失值，并在此基础上预测网络的最佳权重。1.作为架构中的判别器，gan模拟了一个损失函数。
浏览 0提问于2020-11-04得票数 2
2回答
为什么有些人将两个不同网络的参数链接在一起，并用相同的优化器训练它们？
python、deep-learning、pytorch、generative-adversarial-network
我在看CycleGAN的官方pytorch实现，在那里，作者链接了两个网络的参数，并为两个网络使用了一个单独的优化器。这是怎么回事？这比为两个不同的网络使用两个不同的优化器更好吗？
浏览 89提问于2020-05-17得票数 5
2回答
loss.backward()与模型的适当参数有何关系？
machine-learning、deep-learning、pytorch
当然，我知道参数需要有requires_grad=True，并且我知道它将x.grad设置为适当的梯度，以便优化器稍后执行梯度更新。
优化器在实例化时链接到模型参数，但损失永远不会链接到模型。当我有两个不同的网络，有两个不同的损失函数和两个不同的优化器时，会发生什么？我将很容易地将优化器链接到每个网络，但是如果我从来没有将它们链接在一起，那么损失函数如何知道如何计算每个适当网络的梯度呢？
浏览 2提问于2019-11-14得票数 3
3回答
训练神经网络的优化器的选择指南
neural-network、optimization、backpropagation
我使用神经网络已经有一段时间了。但是，我经常遇到的一件事是，选择一个优化器来训练网络(使用后台工具)。我通常做的就是从一个开始(例如标准SGD)，然后随机地尝试其他的。我想知道是否有一种更好(更少随机)的方法来找到一个好的优化器，例如从下面的列表中：AdaDeltaRMSProp特别是，我感兴趣的是，如果有一些理论上的理由我还可以想象，某些优化器在特定领域比其他优化器</em
浏览 0提问于2016-03-04得票数 39
1回答
如何为每个模型层Pytorch使用不同的优化器？
optimization、pytorch
我有一个两层网络内置在pytorch和两个不同的优化器。我想在第一层使用一个优化器，在第二层使用其他优化器。这个是可能的吗？
浏览 146提问于2020-12-17得票数 1
回答已采纳
1回答
正则化在Tensorflow中最大Adagrad优化器中的应用
python、optimization、tensorflow、neural-network、regularized
(我专门使用这个优化器来获得一个稀疏的解决方案。)我有两个关于正规化的问题。
优化器中使用的L1正则化适用于神经网络的前向和后向传播，还是只适用于反向传播？是否有一种方法来分解优化器，使正则化只适用于网络中的特定层？
浏览 1提问于2018-04-13得票数 1
回答已采纳
1回答
与火炬中特定层的参数有关的梯度
neural-network、pytorch、gradient-descent、detach
我正在建立一个具有多个网络的火把模型。例如，让我们考虑netA和netB。在损失函数中，我需要使用组合netA(netB)。在优化的不同部分，我只需要计算loss_func(netA(netB))的梯度相对于netA的参数，在另一种情况下，我需要计算梯度wrt，netB的参数。我们应该如何处理这个问题？
浏览 5提问于2021-06-07得票数 0
回答已采纳
1回答
神经网络误差
neural-network
为了设计一种基于神经网络的f(x) = sin(x)预测器，设计了以下网络。损失的选择为L2，优化器为标准梯度下降。预测器用X_train = numpy.arange(0.0, 314.1, 0.1)和Y_train = numpy.sin(X_train)训练。它随后在X_test= numpy.arange(-10.0, 10.0, 0.001)和Y_test = numpy.sin(X_test)上进行了测试，但是预测器对测试数据的性能很差。训练数据太少，无法对网络</e
浏览 0提问于2018-02-22得票数 1
1回答
关于tensorflow反向传播
tensorflow、neural-network
如果我有两个神经网络A和B，并且我使用网络A的输出输入网络B的输入(占位符)，并且使用优化器来最小化网络B的损失，网络A的参数可以通过反向传播来更新吗？
浏览 0提问于2017-04-06得票数 1
回答已采纳
1回答
用单一优化器训练多连通神经网络
pytorch
如何用单一的优化器联合优化由两个不同的神经网络组成的模型的参数？在初始化了优化器之后，我尝试了以下几点：但我知道这个错误
浏览 4提问于2022-06-01得票数 0
回答已采纳
1回答
是否需要频繁的磁盘访问？
phoenix-framework
在著名的凤凰标杆：I/O优化服务器分配网络资源，并使用本地高速SSD驱动器进行存储.I/O优化的服务器对需要频繁或持续的磁盘访问当我们需要决定用于生产的服务器规范时，I/O优化是否是第一优先？
浏览 5提问于2016-12-01得票数 2
回答已采纳
2回答
为什么不总是使用ADAM优化技术？
neural-network、optimization
当训练神经网络的成本函数最小化时，自适应矩估计优化器似乎总是工作得更好(更快，更可靠，达到全局最小值)。
为什么不总是用亚当？为什么还要费心使用RMSProp或动量优化器呢？
浏览 0提问于2018-04-15得票数 48
回答已采纳
1回答
如何更新优化器需要在tensorflow中更新的变量列表？
list、variables、optimization、tensorflow
如何更新优化器在tensorflow中训练的变量列表？换句话说，如果我们有以下优化器：例如，我需要在微调网络的同时更新my_var_list。例如，在卷积神经网络中对稠密层进行微调。
任何帮助都是非常感谢的！
浏览 3提问于2017-06-16得票数 2
1回答
PyTorch中的SGD优化器实际上是梯度下降算法吗？
python、pytorch、gradient-descent
我正在尝试比较神经网络中SGD算法和GD算法的收敛速度。在PyTorch中，我们经常使用SGD优化器，如下所示。L.backward() optimizer.step() running_loss += L.item()
我在这里对优化器的理解是，SGD优化器实际上执行最小批处理梯度下降算法，因为我们一次向优化器提供一批数据。因此，如果我们将batch_size参数设
浏览 3提问于2022-06-04得票数 3
回答已采纳
2回答
WinXP的TCP优化
tcp、optimization
使用像TCP优化器这样的工具优化我的网络连接(TCP)有什么好处吗？如果有好处，如何才能做好呢？
浏览 0提问于2009-07-05得票数 2
回答已采纳
1回答
优化算法在网络最短路径求解中的应用
algorithm、shortest-path
我正在模拟由数千个路由器组成的基于大型内容的网络。我使用“反向路径学习”进行路由。所请求的内容名称和内容使用泛洪在网络中传播。路由器检查路由表中的匹配名称，然后回复或使用不匹配的请求内容名称和内容填充路由表。使用蚁群优化、爬山等优化算法代替反向路径学习会提高路由效率吗？
浏览 1提问于2011-12-15得票数 1
回答已采纳
1回答
基于贝叶斯优化的神经网络超参数整定
hyperparameter、hyperparameter-tuning、bayesian、bayesian-networks、gaussian-process
利用贝叶斯优化(GP)方法寻找良好的超参数的前提之一是未知函数是光滑的。这个假设对神经网络有效吗?或者至少对大多数神经网络是有效的？我们能找到什么推荐信吗？
浏览 0提问于2020-03-31得票数 0
1回答
PyTorch中的最小化与最大化
pytorch
我想知道如何在PyTorch中对以下数学运算采取梯度步骤(A、B和C是参数为而不是重叠的PyTorch模块)这与生成性对抗性网络(GAN)的成本功能有些不同，所以我不能使用现成的GANs的例子我想到的一种方法是构造两个优化器。优化器opt1具有模块A和B的参数，优化器opt2具有模块C的参数。采取步骤，使C的成本函数最小化
在A和B方面迈出一步。我确信，它们肯定是使用PyTor
浏览 1提问于2018-06-12得票数 3
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号