1回答
在Python中进行梯度下降的一种方法是自己编写代码。然而，考虑到它在机器学习中有多么流行，我想知道是否有一个Python库可以导入，给我一个梯度下降方法(最好是小批处理梯度下降，因为它通常比批处理和随机梯度下降更好，但是如果我错了，请纠正我)。
浏览 0提问于2018-05-08得票数 3
回答已采纳
在python或R中构建线性回归模型时，我只使用fit方法。这种方法不要求初始化学习速度，或起点，而这是在梯度下降需要(据我所知)。那么，如果假设模型是用梯度下降来优化的，那么当使用拟合方法时，这些参数是如何被线性模型所选择的呢？
或者，如果模型没有使用梯度下降(或它的任何类型)，那么它使用哪种算法(以及如何优化)？
浏览 6提问于2017-12-04得票数 0
2回答
假设我想使用N个样本的数据集来训练一个随机梯度下降回归算法。由于数据集的大小是固定的，我将重用数据T次。在每次迭代或“时代”中，在随机地重新排序整个训练集之后，我使用每个训练样本一次。我的实现是基于Python和Numpy的。因此，利用向量运算可以显着地减少计算时间。想出一个批量梯度下降的矢量化实现是非常简单的。然而，在随机梯度下降的情况下，我想不出如何避免在每个时期迭代所有样本的外循环。编辑
浏览 0提问于2014-10-10得票数 10
回答已采纳
2回答
我做机器学习已经有一段时间了，但是即使经过一段时间的练习，也会有一些零碎的东西聚集在一起。反过来，新权重的计算在数学上是复杂的(你需要计算权重的偏导数，在神经网络的每一层计算误差-输入层除外)。谢谢!
浏览 0提问于2016-01-09得票数 5
回答已采纳
5回答
在numpy中候补
、、、、
在python中，除了fminunc函数(来自octave/matlab)之外，还有其他替代方法吗？我有一个二元分类器的成本函数。现在我要运行梯度下降，得到θ的最小值。fminunc(@(t)(costFunction(t, X, y)), initial_theta, options);
我使用numpy库在python中转换了我的costFunction，并在numpy中寻找fminunc或任何其他梯度下降算法实现。
浏览 6提问于2013-09-14得票数 33
回答已采纳
2回答
对于深度神经网络(DNN)的训练，Hessian-Free (HF)优化技术与梯度下降(例如随机梯度下降(SGD)、间歇梯度下降(SGD)、自适应梯度下降)比较如何？在什么情况下，人们应该更喜欢高频技术，而不是梯度下降技术？
浏览 3提问于2015-07-22得票数 2
回答已采纳
1回答
我正在尝试为多变量梯度下降算法找出python代码，并发现了几个类似于以下几种实现： # update return theta然而，在
浏览 2提问于2015-11-10得票数 2
回答已采纳
我使用scipy.optimize.minimize函数(我使用共轭梯度下降)来分解电影评分矩阵，但是这个优化工具即使对于只有100K项的数据集也太慢了。我计划将我的算法扩展到2000万项的数据集。我一直在寻找随机梯度下降的基于Python的解决方案，但我在scikit-learn上找到的随机梯度下降不允许我使用自定义的成本和梯度函数。我可以实现我自己的随机梯度下降，但我正在检查你们是否已经有这样做的工具。
浏览 0提问于2015-05-06得票数 3
2回答
(i)对于凸损失函数(即碗形)，保证批梯度下降最终收敛到全局最优，而不保证随机梯度下降。(4)对于凸损失函数(即碗形)，既不保证随机梯度下降，也不保证分批梯度
浏览 0提问于2020-08-13得票数 4
回答已采纳
3回答
Python中的渐变体面
、、、
我发现梯度体面做同样的工作。但我不知道怎么用蟒蛇来做。我参考了youtube上的一些视频，但每一段视频都解释了y=MX+c。但是我的模型中有大约50个变量。
有图书馆吗。请帮帮我。
浏览 0提问于2019-10-10得票数 1
回答已采纳
1回答
我知道模型的权重何时更新，同时使用梯度下降(在所有三种类型的GD中)，但在我的情况下，我使用的是带有自定义损失(三元组损失)的adam优化，在这种情况下，模型中的权重何时更新？
浏览 0提问于2019-07-27得票数 1
0回答
我被要求用Python语言写一个梯度下降的实现，签名为gradient(f, P0, gamma, epsilon)，其中f是未知的并且可能是多元函数，P0是梯度下降的起点，gamma是常数步长，ε是停止标准我发现棘手的是如何在P0点上计算f的梯度，而对f一无所知。我知道有numpy.gradient，但我不知道如何在我不知道f的尺寸的情况下使用它。此外，numpy.gradient使用函数的样本，那么如何选择正确的样本来计算某个点的梯度，而不需要任何关于函数和点的信息
浏览 9提问于2017-12-05得票数 0
我想要计算梯度值(每个示例或小批量)，并将权重直接修改为任何值(因此我可以使用任何方法控制梯度下降，而不仅仅是提供的sgd /学习率时间表)。我使用的是python接口。
浏览 0提问于2017-01-24得票数 2
我目前正在使用ScikitLearn中的两个类处理一个分类问题，其中有求解器adam和激活relu。为了探索我的分类器是否存在高偏差或高方差，我用Scikitlearns内置函数绘制了学习曲线：
应该是这样的吗？我认为学习曲线是根据独立于任何批次/时代的训练数据来处理准确性分数的吗？对于批处理方法，我真的可以使用这个内置函数吗？如果是，我应该选择哪个批次大小(训练示例的整批或批次size=数或两者之间的某个部分)，以及从中得到什么诊断？或者你通常如何诊断神经网络分类器的偏差/方差问题？
浏览 1提问于2019-03-26得票数 1
回答已采纳
optimizer.step() running_loss += L.item()我的理解正确吗？
浏览 3提问于2022-06-04得票数 3
回答已采纳
文件中都说，“用随机梯度下降来拟合线性模型。”
关于随机梯度下降，我所知道的是，在一次迭代中更新模型的参数需要一个训练示例(或整个训练的一部分)。梯度下降在每次迭代中使用整个数据集。我要实现法向梯度下降和随机梯度下降，并比较它们所需的时间。如何在SGDClassifier中做到这一点？fit()方法是否为法向梯度下降？
浏览 2提问于2016-11-18得票数 0
回答已采纳
1回答
我在研究反向传播是如何工作的？我读到，反向传播被用来在每次迭代后用部分导数找到每个神经元的最优权重，并更新神经元的权重。这两种情况看起来是独立工作的，我的意思是，当反向传播算法本身找到最优权重时，我们不需要一个学习速率参数本身。
我的理解正确吗？如果我错了，请纠正我。
浏览 0提问于2020-09-19得票数 0
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
实时音视频活动推荐
腾讯云开发者
