我正在尝试计算一个简单线性模型损失的梯度。然而，我面临着一个问题，当使用TensorFlow时，梯度被计算为'none‘。为什么会发生这种情况，以及如何使用TensorFlow计算梯度？import numpy as np [91,as tape:
浏览 32提问于2021-06-29得票数 0
回答已采纳
1回答
什么是以磁带为基础的自修课程？
、、、、
我知道autograd是用来暗示自动区分的。但是，究竟什么是tape-based autograd in Pytorch，以及为什么会有这么多的讨论来肯定或否认它。例如：
为进一步参考，请将其与GradientTape在Tensorflow
浏览 0提问于2020-11-16得票数 12
回答已采纳
1回答
我试着做梯度下降来计算三阶张量的CP分解。我正在使用tensorly，而且我还是个初学者。我不知道如何计算梯度。到目前为止，我们所掌握的是： def CP_GD(T, rank, epsilon=1e-5,max_iters=100,lr=1e-2,verbose=True,errors_at_iterations
浏览 22提问于2020-03-28得票数 0
在Pytorch中，我们可以通过以下方式访问变量x的梯度 z.grad 在Tensorflow 2中相同的语法是什么？我的目标是减少梯度。以下是Pytorch代码 if z.grad > 1000:
z.grad = 10 tensorflow 2可以应用相同的功能吗？ 谢谢
浏览 23提问于2020-12-25得票数 1
回答已采纳
我是PyTorch的新手，但对TensorFlow有丰富的经验。
我想修改图中的一小部分的梯度:仅仅是单层激活函数的导数。使用tf.custom_gradient可以轻松地在Tensorflow中实现这一点，它允许您为任何函数提供定制的梯度。我想在PyTorch中做同样的事情，我知道您可以修改反向()方法，但这需要重写forwa
浏览 3提问于2022-03-03得票数 2
回答已采纳
2回答
我已经用自己实现的损失函数focal_loss_fixed用PyTorch编写了一段代码。但我的损失价值在每个时代之后都是固定的。看起来权重没有更新。下面是我的代码片段： lr=lr,Loss: {}'.format(epoch_loss))def focal_loss_fix
浏览 2提问于2018-10-16得票数 1
其思想是将神经网络训练为未知非线性函数F的逆F^(-1)，这意味着损失L是在F的输出处计算的，但是由于F的梯度不知道，反传播不能直接用于计算梯度和更新NN权值。在计算TensorFlow或PyTorch中的梯度时，是否可以使用没有直接连接到神经网络的损失函数L？或承担任何其他软件(Matlab、C等)所获得的损
浏览 2提问于2020-01-16得票数 1
我想在Tensorflow中使用一个预先训练过的Pytorch模型，并且我需要将tensorflow张量转换为pytorch张量。但是，我不想将Py手电筒张量转换为numpy数组，并将其转换为tensorflow张量，因为我得到的错误是“您必须为占位符张量提供一个值”。当我制作图形时，我需要这个转换，这样tensorflow张量就没有价值了，并且不能转换为numpy！有什么解决办法吗？
浏览 5提问于2021-01-24得票数 2
回答已采纳
对于相同的输入和标签：
在例2、例3和例4中，计算结果与pytorch.nn.CTCLoss不
浏览 1提问于2019-08-05得票数 2
1回答
我一直在跟踪使用实现的pyTorch，并希望使用Tensorflow和Keras进行测试。我在Keras中使用了相同的加权模型(VGG16)，并且能够成功地执行向前通过和元素的分区。# keras-tensorflow implementations = (R[l+在使用的原始代码( pyTorch )中，向后传递将使
浏览 7提问于2020-06-24得票数 2
我正在尝试使用keras实现tensorflow 2中的自定义层(它是从类层派生的层)。在编写调用函数时，我需要从只接受numpy数组的外部库调用方法。这是一个相当复杂的函数，当然它不使用tensorflow函数。我的调用函数输入一个张量，将其转换为numpy (通过.numpy()函数)，从另一个库调用外部方法，然后将numpy数组转换回张量。如果我正确理解，这是由于我收到的类型的张
浏览 2提问于2020-10-23得票数 0
回答已采纳
我正在尝试用pytorch复制代码。然而，我在自动评分功能上遇到了一些问题。我遇到了以下运行时错误。b -= b.grad * 1e-5/batch_size b.grad.zero_() 有人能解释一下python中的autograd是如何工作的吗？如果有人能给我推荐一个学习pytorch的好资源，那就太好了。
浏览 19提问于2019-10-02得票数 0
1回答
在A2C中，参与者和评论家算法通过方程更新权重：θ=θ+α*δ*Grad(log(PI(a_s，θ))和所以我的问题是，当使用神经网络实现这一点时，谢谢，乔恩
浏览 2提问于2020-01-27得票数 0
回答已采纳
2回答
为了正则化的目的，我希望通过奇异值分解来反向传播梯度。PyTorch目前不支持通过奇异值分解进行反向传播。我知道我可以编写自己的自定义函数来操作变量；获取它的.data张量，对其应用torch.svd，将变量包装在它的奇异值周围，并在向前传递中返回它，然后在向后传递中将适当的雅可比矩阵应用于传入的梯度。然而，我想知道是否有一个更优雅(也可能更快)的解决方案，我可以直接重写"Type Var
浏览 5提问于2017-06-29得票数 10
1回答
我目前正在学习PyTorch，以便利用它的开源自动评分功能，作为我自己的练习，我想实现一个简单的优化算法，我已经在MATLAB中实现了这个算法。具体地说，我想做一个相同的优化循环，用Torch的自动梯度功能替换我自己的梯度计算。换句话说，我想在PyTorch中执行与上面完全相同的算法，只是简单地使用PyTorch的</e
浏览 7提问于2020-12-01得票数 0
下面你可以找到我的代码，这是我自学机器学习和Python的第一个认真的代码。我试图从头开始编写代码，而不是使用像NumPy这样的库。对于单个输入和输出，代码可以工作，但当涉及实际数据集(在本例中为784个输入对10个输出)时，它返回无穷大作为错误。我检查了我认为可能是问题的任何东西，但都没有成功。 代码可能是一个肮脏的解决方案。我从研究Trask Github的代码和他的多输入/输出代码开始，但当我将其修改为使用MNIST时，一切都变得疯狂。
浏览 12提问于2019-05-02得票数 0
回答已采纳
1回答
我正在为一个经常遇到丢失数据的模型编写代码。pytorch (或tensorflow，因为我还没有写代码，所以也没问题)中有没有一个选项可以只计算/更新现有数据的梯度和权重？实际上，这是从一个最大的神经网络中提取一个较小的神经网络。
浏览 0提问于2018-04-10得票数 0
在编写机器学习模型时，我发现自己需要计算度量，或者为了可视化目的在回调中运行额外的前传。在PyTorch中，我使用进行此操作，这样可以防止计算梯度，因此这些操作不会影响优化。如何在TensorFlow/KerasKeras模型中工作的是可调用的。所以，像model(x)这样的东西是可能的。但是，也可以说是model.predict(x)，它似乎也调用了c
浏览 1提问于2021-05-04得票数 3
1回答
我试图在一个简单的神经网络(一个隐藏层)的第一层上实现L1正则化。我查看了一些关于StackOverflow的其他文章，这些文章使用Pytorch应用l1正则化来确定应该如何做(参考文献：、)。无论我增加多高的lambda ( l1正则化强度参数)，我都不会在第一个权重矩阵中得到真零。为什么会这样？-1) corr+=(pred==y).sum()注意:数据有10个特性(2个类和800个训练样本)，并且只有前2
浏览 0提问于2018-04-27得票数 6
回答已采纳
云服务器
ICP备案
对象存储
腾讯会议
云直播
腾讯云开发者
