适用于CrossEntropyLoss的PyTorch LogSoftmax vs Softmax
在PyTorch中，CrossEntropyLoss是一种常用的损失函数，用于解决分类问题。在使用CrossEntropyLoss时，通常需要在模型的输出层应用一个激活函数，以将输出转化为概率分布。常见的激活函数包括LogSoftmax和Softmax。
- LogSoftmax： LogSoftmax是Softmax函数的一种变体，它将输出向量的每个元素进行指数运算，然后对结果进行归一化，最后取对数。LogSoftmax函数的输出是一个概率分布，其中每个元素的取值范围在[-∞, 0]之间。LogSoftmax函数的公式如下：
- LogSoftmax(x_i) = log(exp(x_i) / sum(exp(x_j)))
- 其中，x_i表示输出向量的第i个元素，exp表示指数函数，sum表示求和。
- LogSoftmax函数的优势在于它可以避免数值计算中的数值溢出问题，并且在计算交叉熵损失时，可以直接使用LogSoftmax的输出作为输入。
- 在PyTorch中，可以使用torch.nn.LogSoftmax模块来实现LogSoftmax函数的计算。
- 推荐的腾讯云相关产品和产品介绍链接地址：
- 腾讯云AI开放平台：https://cloud.tencent.com/product/ai
- Softmax： Softmax函数是一种常用的激活函数，它将输出向量的每个元素进行指数运算，然后对结果进行归一化。Softmax函数的输出是一个概率分布，其中每个元素的取值范围在[0, 1]之间，并且所有元素的和为1。Softmax函数的公式如下：
- Softmax(x_i) = exp(x_i) / sum(exp(x_j))
- 其中，x_i表示输出向量的第i个元素，exp表示指数函数，sum表示求和。
- Softmax函数的优势在于它可以将输出向量的每个元素解释为对应类别的概率，并且在计算交叉熵损失时，需要将Softmax的输出作为输入。
- 在PyTorch中，可以使用torch.nn.Softmax模块来实现Softmax函数的计算。
- 推荐的腾讯云相关产品和产品介绍链接地址：
- 腾讯云AI开放平台：https://cloud.tencent.com/product/ai
总结： LogSoftmax和Softmax都是常用的激活函数，用于将模型的输出转化为概率分布。在使用CrossEntropyLoss时，可以根据需求选择使用LogSoftmax或Softmax作为输出层的激活函数。LogSoftmax适用于直接计算交叉熵损失，而Softmax适用于将输出解释为类别概率。腾讯云提供了丰富的AI开放平台产品，可以满足各种云计算需求。
相关·内容
我知道PyTorch的LogSoftmax函数基本上只是一种更稳定的计算Log(Softmax(x))的方法。Softmax允许您将线性层的输出转换为分类概率分布。 pytorch documentation表示，CrossEntropyLoss将nn.LogSoftmax()和nn.NLLLoss()组合在一个类中。 查看NLLLoss，我仍然在使用2个日志吗?I‘s confused...Are there being？我认为负日志是事件的信息内容。(与entropy相同 经过更多的研究，我认为NLLLoss假设您实际上传递的是对数概率，而不仅仅是概率。这是正确的吗？如果是这样的话就有点
浏览 26提问于2020-12-08得票数 9
回答已采纳
根据PyTorch文档，CrossEntropyLoss()是LogSoftMax()和NLLLoss()函数的组合。但是，调用CrossEntropyLoss()提供了与调用LogSoftMax()和NLLLoss()不同的结果，这从给定代码的输出中可以看出。
是什么导致了不同的结果？
来自PyTorch的交叉熵:张量(2.3573)来自Manual_PyTorch_NNLoss的交叉熵:张量(1.0137)
def CrossEntropyPyTorch(values, actualProb):
tensorValues = torch.FloatTensor(values)
浏览 0提问于2023-04-27得票数 0
回答已采纳
在Pytorch documentation中，CrossEntropyLoss将LogSoftMax和NLLLoss组合在一个类中 但是我很好奇；如果我们在我的分类器中同时使用CrossEntropyLoss和LogSoftMax，会发生什么： model_x.fc = nn.Sequential (nn.Linear(num_ftrs, 2048, bias=True), nn.ReLU(),
nn.Linear(2048, 1024 ), nn.ReLU(),
浏览 25提问于2020-10-23得票数 1
我知道当使用nn.Softmax()作为损失函数时，不需要在神经网络的输出层使用nn.CrossEntropyLoss函数。
但是我需要这样做，是否有一种方法可以抑制在nn.CrossEntropyLoss中使用softmax，而在神经网络本身的输出层上使用nn.Softmax()呢？
动机：我使用shap软件包来分析特性之后的影响，在这里我只能将经过训练的模型作为输入。但是，输出没有任何意义，因为我看的是无界值，而不是概率值。
示例：而不是-69.36作为我的模型的一个类的输出值，我想要0到1之间的东西，所有类的总和最多为1。由于我不能改变它之后，输出需要像这样在培训期间。
浏览 0提问于2019-09-26得票数 2
回答已采纳
1回答
默认情况下，PyTorch的cross_entropy以logits (来自模型的原始输出)作为输入。我知道CrossEntropyLoss将LogSoftmax ( log (softmax(X)和NLLLoss (负日志似然损失)合并在一个类中。因此，我认为我可以使用NLLLoss从概率中获得交叉熵损失如下：
真实标签: 1，0，1
概率: 0.1，0.9，0.9，0.1，0.2，0.8
其中，y_i,j表示真值，即如果示例i属于j类，则为1，否则为0。p_i,j表示属于j类的样本i模型所预测的概率。
如果我用手计算，结果是：
>>> -(math.lo
浏览 2提问于2020-02-11得票数 4
回答已采纳
2回答
我正在Pytorch中学习Logistic回归，为了更好地理解，我定义了一个定制的CrossEntropyLoss，如下所示：
def softmax(x):
exp_x = torch.exp(x)
sum_x = torch.sum(exp_x, dim=1, keepdim=True)
return exp_x/sum_x
def log_softmax(x):
return torch.exp(x) - torch.sum(torch.exp(x), dim=1, keepdim=True)
def CrossEntropyLoss(outputs
浏览 5提问于2019-10-13得票数 1
回答已采纳
1回答
有火炬的多类分类
、、、
我是个新手，需要澄清一下多类分类。
我正在微调DenseNet神经网络，这样它就能识别出3个不同的类。
因为这是一个多类问题，所以我必须以这样的方式替换分类层：
kernelCount = self.densenet121.classifier.in_features
self.densenet121.classifier = nn.Sequential(nn.Linear(kernelCount, 3), nn.Softmax(dim=1))
并使用CrossEntropyLoss作为损失函数：
loss = torch.nn.CrossEntropyLoss(reduction='
浏览 1提问于2020-03-30得票数 1
回答已采纳
2回答
我试图通过一个实际的例子来理解权重在CrossEntropyLoss中是如何工作的。因此，我首先作为标准PyTorch代码运行，然后手动运行这两个代码。但损失是不一样的。
from torch import nn
import torch
softmax=nn.Softmax()
sc=torch.tensor([0.4,0.36])
loss = nn.CrossEntropyLoss(weight=sc)
input = torch.tensor([[3.0,4.0],[6.0,9.0]])
target = torch.tensor([1,0])
output = loss(input,
浏览 0提问于2020-04-25得票数 1
1回答
我想训练一个多类别的分类器，用Pytorch。
下面的演示了如何在最后一层类型nn.Linear(84, 10)之后使用nn.CrossEntropyLoss()。
然而，我记得这就是Softmax所做的。
这让我很困惑。
如何以最好的方式训练“标准”分类网络？
如果网络有一个最终的线性层，如何推断每个类的概率？
如果网络有最终的softmax层，如何训练网络(哪种损失，以及如何)？
我在Pytorch论坛上找到了，它很可能回答了所有这些问题，但是我无法将它编译成工作的、可读的Pytorch代码。
我的假设答案是：
就像。
线性层输出的指数，这实际上是逻辑(日
浏览 2提问于2020-12-22得票数 3
回答已采纳
我在两个受过训练的模特身上做测试。首先，我在测试过程中出错，所以我已经将torch.logsoftmax类更改为nn.LogSoftmax。
码
from torch.utils.data import Dataset, DataLoader
import pandas as pd
from torchvision import transforms
from PIL import Image
import torch
import torch.nn as nn
from glob import glob
from pathlib import PurePath
import numpy as
浏览 20提问于2022-11-17得票数 0
当我在PyTorch中构建分类器时，我有两个选项要做
在模型中使用nn.CrossEntropyLoss而不作任何修改
使用nn.NNLLoss并添加F.log_softmax作为模型中的最后一层
所以有两种方法。
现在，人们应该使用什么方法，为什么呢？
浏览 6提问于2021-01-11得票数 0
1回答
我正在构建一个二进制分类，其中我想要预测的类只出现在<2%的时间。我用的是火把
最后一层可能是logosftmax或softmax。
self.softmax = nn.Softmax(dim=1)或self.softmax = nn.LogSoftmax(dim=1)
我的问题
我应该使用softmax，因为它将提供总结为1的输出，并且我可以检查各种prob阈值的性能。这样理解正确吗？
如果我使用softmax，那么我可以使用cross_entropy loss吗？这似乎认为使用它是可以的。
如果我使用logsoftmax，那么我可以使用cross_entropy loss吗？这似乎建
浏览 0提问于2022-03-03得票数 0
回答已采纳
我正在使用PyTorch闪电 (这里没有标记，我没有足够的声誉来创建一个)，并且面临着一个多分类的问题。
我的损失函数是torch.nn.CrossEntropyLoss，它在内部应用softmax。因此，由于我不需要处理这个问题，我的模型预测输出不是概率向量。现在，在代码方面，一个步骤如下所示：
def train_step(self, batch):
datapoints, labels = batch
y_out = self(datapoints)
loss = torch.nn.CrossEntropyLoss()(y_out, labels)
met
浏览 0提问于2021-11-03得票数 1
回答已采纳
我使用这个损失函数对xlm大型长器，它给了我这个错误：
import torch.nn.functional as f
from scipy.special import softmax
loss_func = torch.nn.CrossEntropyLoss()
output = torch.softmax(logits.view(-1,num_labels), dim=0).float()
target = b_labels.type_as(logits).view(-1,num_labels)
loss = loss_func(
浏览 16提问于2022-09-15得票数 0
回答已采纳
https://pytorch.org/docs/stable/generated/torch.nn.CrossEntropyLoss.html 当我阅读上面的内容时，我了解到torch.nn.CrossEntropy已经计算了最后一层的exp分数。所以我认为转发函数不一定要包含softmax。例如，返回self.fc(x)而不是返回nn.softmax(self.fc(x))。然而，我很困惑，因为我已经看到了几个使用这两种方法的ConvNet分类器的实现(它们在使用或不使用softmax的情况下返回，而两者都使用交叉熵损失)。 这些问题是否会影响分类器的性能？？哪种方式是正确的？
浏览 190提问于2020-10-25得票数 2
1回答
对RNN最大输出层的理解
、、、、
以下是Keras中的一个简单的LSTM模型：
input = Input(shape=(max_len,))
model = Embedding(input_dim=input_dim, output_dim=embed_dim, input_length=max_len)(input)
model = Dropout(0.1)(model)
model = Bidirectional(LSTM(units=blstm_dim, return_sequences=True, recurrent_dropout=0.1))(model)
out =Dense(label_dim, activat
浏览 2提问于2018-11-26得票数 2
回答已采纳
这两个函数之间的区别已经在本文中描述： is：exp(x_i) / exp(x).sum()和log是：log(exp(x_i) / exp(x).sum())。
但是对于下面的Pytorch代码，为什么我得到了不同的输出：
>>> it = autograd.Variable(torch.FloatTensor([0.6229,0.3771]))
>>> op = autograd.Variable(torch.LongTensor([0]))
>>> m = nn.Softmax()
>>> log = nn.Log
浏览 0提问于2018-03-12得票数 4
回答已采纳
根据docs，CrossEntropyLoss条件组合LogSoftmax函数和NLLLoss 标准。 这一切都很好，但测试它似乎并不能证实这种说法(即断言失败)： model_nll = nn.Sequential(nn.Linear(3072, 1024),
nn.Tanh(),
nn.Linear(1024, 512),
nn.Tanh(),
nn.Linear(512, 128)
浏览 27提问于2021-09-09得票数 0
回答已采纳
我有一个分类器：
input_dim = 25088
h1_dim = 4096
h2_dim = 2048
h3_dim = 1024
h4_dim = 512
output_dim = len(cat_to_name) # 102
drop_prob = 0.2
model.classifier = nn.Sequential(nn.Linear(input_dim, h1_dim),
nn.ReLU(),
nn.Dropout(drop_prob),
浏览 2提问于2022-10-01得票数 -1
回答已采纳
2回答
我正在试验一些pytorch代码。对于交叉熵损失，我发现了一些有趣的结果，我使用了pytorch的二进制交叉熵损失和交叉熵损失。 import torch
import torch.nn as nn
X = torch.tensor([[1,0],[1,0],[0,1],[0,1]],dtype=torch.float)
softmax = nn.Softmax(dim=1)
bce_loss = nn.BCELoss()
ce_loss= nn.CrossEntropyLoss()
pred = softmax(X)
bce_loss(X,X) # tensor(0.)
bce_
浏览 38提问于2020-10-06得票数 1
1回答
我正在训练一个神经网络来区分三个班。当然，我去了PyTorch的CrossEntropyLoss。在实验中，我意识到当在模型的末尾放置一个Softmax层时，损失会显著增加。所以我决定做进一步的实验：
import torch
from torch import nn
pred_1 = torch.Tensor([[0.1, 0.2, 0.7]])
pred_2 = torch.Tensor([[1, 2, 7]])
pred_3 = torch.Tensor([[2, 4, 14]])
true = torch.Tensor([2]).long()
loss = nn.CrossEntr
浏览 2提问于2021-12-30得票数 3
回答已采纳
针对中的MNIST数据集，对2层隐层的全连通深神经网络进行了分类。
我想在两个隐藏层中使用tanh作为激活，但最后，我应该使用softmax。
为此，我选择了nn.CrossEntropyLoss() in PyTOrch，它(正如我所发现的)不想使用一个热编码的标签作为真正的标签，而是使用类的LongTensor。
我的模型是nn.Sequential()，当我最终使用softmax时，它在测试数据的准确性方面给了我更糟糕的结果。为什么？
import torch
from torch import nn
inputs, n_hidden0, n_hidden1, out = 784, 1
浏览 0提问于2019-04-14得票数 30
回答已采纳
我试图使用TensorFlow框架重新实现一个PyTorch代码。下面我包含了TF示例代码和PyT解释，用于大小为(Batch, 9, 9, 4)的目标和大小为(Batch, 9, 9, 4)的网络输出。
TensorFlow实现：
loss = tf.nn.softmax_cross_entropy_with_logits(labels=target, logits=output)
loss = tf.matrix_band_part(loss, 0, -1) - tf.matrix_band_part(loss, 0, 0)
PyTorch实现：
output = torch.tensor
浏览 5提问于2019-12-05得票数 1
回答已采纳
我在试着让d(loss)/d(input)。我知道我有两个选择。 第一个选项： loss.backward()
dlossdx = x.grad.data 第二个选项： # criterion = nn.CrossEntropyLoss(reduce=False)
# loss = criterion(y_hat, labels)
# No need to call backward.
dlossdx = torch.autograd.grad(outputs = loss,
浏览 196提问于2019-01-13得票数 5
回答已采纳
我在PyTorch是个新手，所以请原谅我的无知。我正在尝试使用PyTorch创建我自己的CNN。问题是，我的完全连接层(即LazyLinear函数)没有显示任何可学习的参数，而且网络显然没有学习任何东西。
import torch
from torch import nn
import pytorch_lightning as pl
from pytorch_lightning.core.decorators import auto_move_data
class ThreeConvLayer(pl.LightningModule):
def __init__(self, num_cla
浏览 18提问于2022-08-04得票数 0
回答已采纳
1回答
我通过在线搜索遇到了很多建议，但我不知道正确的方法。假设我的模型输出是4个神经元，目标标签是1000 0100 0010 0001。 在tensorflow中，我在末尾添加了softmax层，并使用CategoricalCrossEntropy添加了model.fit。 在pytorch中做这件事的正确方法是什么？ 现在，我所做的(以及它的工作)是插入我的模型输出和目标的torch.argmax()一个热点向量。例如，模型输出为(0.7,0.1,0.1,0.1)，目标向量的torch.argmax为0。在这上面，我激活了nn.CrossEntropyLoss()。 这是正确的做法吗？
浏览 62提问于2021-06-22得票数 0
回答已采纳
我正在使用pytorch来训练模型。但当它计算交叉熵损失时，我得到了一个运行时错误。
Traceback (most recent call last):
File "deparser.py", line 402, in <module>
d.train()
File "deparser.py", line 331, in train
total, correct, avgloss = self.train_util()
File "deparser.py", line 362, in train_util
浏览 1提问于2018-08-13得票数 10
回答已采纳
我目前正在将pytorch代码转换为tensorflow。有一点是，我在tensorflow自定义循环中聚合了3个损失，我得到一个错误，我正在将一个二维数组与一个1维数组传递到tensorflow的CategoricalCrossEntropy中，这是非常合法的，我理解为什么会发生这种情况……但在pytorch代码中，我传递了相同的形状，它与CrossEntropyLoss完美地工作在一起。有人知道我要怎么做才能把它转换成TF吗？传入的形状是(17000,100) vs (17000)
浏览 14提问于2020-12-04得票数 0
1回答
我在“火把”中读到关于RNN的文章: RNN - PyTorch 1.12文档.
根据文档，RNN运行以下函数：
📷
我看了另一个RNN示例(来自pytle教程)：NLP从头开始:用字符级RNN对名称进行分类。
他们实施了RNN，具体如下：
import torch.nn as nn
class RNN(nn.Module):
def __init__(self, input_size, hidden_size, output_size):
super(RNN, self).__init__()
self.hidden_size = hidden_s
浏览 0提问于2022-06-30得票数 0
我在这里遗漏了一些东西:为什么CrossEntropyLoss不能处理一维张量？ from torch import Tensor
X =Tensor([1.0,2.0,3.0])
浏览 38提问于2020-10-22得票数 0
回答已采纳
在将模型预测发送到模型中时，我在PyTorch中得到了以下错误输出。有人知道这是怎么回事吗？
下面是我创建的体系结构模型，在错误输出中，它显示问题存在于x= self.fc1(cls_hs)行中。
class BERT_Arch(nn.Module):
def __init__(self, bert):
super(BERT_Arch, self).__init__()
self.bert = bert
# dropout layer
self.dropout = nn.Dropout(0.1)
浏览 0提问于2020-12-01得票数 5
1回答
我正在尝试使用RNN进行二进制分类。但是当我的模型在训练时，它被loss.backward()卡住了。这是我的模型： class RNN2(nn.Module):
def __init__(self, input_size, hidden_size, output_size=2, num_layers=1):
super(RNN2, self).__init__()
self.rnn = nn.RNN(input_size, hidden_size, num_layers)
self.reg = nn.Linear(hidden_siz
浏览 14提问于2020-04-17得票数 0
1回答
我是DNN和pytorch的初学者。我正在处理一个多分类问题，在这个问题中，我的标签被编码成一个单一的热向量，比如维度D。为此，我使用CrossEntropyLoss。然而，现在我想修改或改变这样的标准，以便惩罚与实际值相去甚远的值，比如分类4比5好，分类2比5好。
Pytorch中是否已经内置了实现此行为的函数？否则，我如何修改CrossEntropyLoss来实现它？
浏览 1提问于2018-10-11得票数 5
我正在使用PyTorch执行语义分段。数据集中共有103个不同的类，目标是RGB图像，只有包含标签的红色通道。我使用nn.CrossEntropyLoss作为我的损失函数。为了保持清醒，我想检查使用nn.CrossEntropyLoss是否对此问题是正确的，以及它是否具有预期的行为。
我从数据集中选择一个随机掩码，并使用此自定义转换创建其分类版本。
class ToCategorical:
def __init__(self, n_classes: int) -> None:
self.n_classes = n_classes
def __call__
浏览 4提问于2022-02-05得票数 2
回答已采纳
3回答
我使用的ResNet18预训练模型，将用于一个简单的二值图像分类任务。但是，包括PyTorch本身在内的所有教程都使用nn.Linear(num_of_features, classes)作为最终的完全连接层。我不明白的是，该模块的激活函数在哪里？另外，如果我想使用sigmoid/softmax，怎么办？
谢谢你提前帮忙，我对毕道士有点陌生。
浏览 7提问于2021-02-16得票数 1
回答已采纳
这听起来可能有点基本，但在运行下面的代码时，我希望看到向后函数的源代码：
import torch.nn as nn
[...]
criterion = nn.CrossEntropyLoss()
loss = criterion(output, target)
loss.backward()
所以我去了PyTorch GitHub，找到了CrossEntropyLoss类，但是没有定义任何向后函数。往上看，CrossEntropyLoss扩展了_WeightedLoss >> _Loss >>模块，然后仍然什么也没有。
那么，向后函数在哪里定义呢？
浏览 0提问于2020-07-08得票数 4
回答已采纳
我现在正在复制下面的模型，它输出一个action并使用filter过滤不合适的候选人。
在该模型中，输出在最后的softmax层之后被过滤。让我们假设action_size==3。因此，在稠密和最大层后的输出如下。
output: [0.1, 0.7, 0.2]
filter: [0, 1, 1]
output*filter: [0, 0.7, 0.2]
但在生物火炬中，logsoftmax和NLLLoss是首选的。所以我的输出如下。这没道理。
output: [-5.4, -0.2, -4.9]
filter: [0, 1, 1]
output*filter: [0, -0.2, -4.9]
浏览 2提问于2017-12-14得票数 0
我正在尝试用pytorch训练一个模型。
输入:686-数组第一层:64-数组第二层:2-数组输出:预测1或0
这就是我到目前为止所知道的：
class autoencoder(nn.Module):
def __init__(self):
super(autoencoder, self).__init__()
self.encoder_softmax = nn.Sequential(
nn.Linear(686, 256),
nn.ReLU(True),
nn.Linear(256
浏览 16提问于2020-05-16得票数 0
回答已采纳
我试图遵循PyTorch的函数的示例性用法，以便使用fashionMNIST数据集解决分类问题。
我认为这个问题与我的模型的数据输出的维度有关。但我不确定，这让我更难弄明白这一点。现在只在Google上运行，所以我无法很容易地访问调试器(据我所知)。
这是我的代码，请让我知道我做错了什么！
import torch.nn as nn
import torch.optim as optim
model = nn.Sequential(
nn.Linear(784, 1024),
nn.ReLU(),
nn.Linear(1024, 10),
nn.ReLU(),
浏览 1提问于2021-01-15得票数 1
回答已采纳
我正在学习pytorch，并将基于tensorflow (，)的anpr项目作为练习，将其移植到pytorch平台。
有一个问题，我使用nn.CrossEntropyLoss()作为损失函数：
criterion=nn.CrossEntropyLoss()
模型的output.data为：
- 1.00000e-02 *
- 2.5552 2.7582 2.5368 ... 5.6184 1.2288 -0.0076
- 0.7033 1.3167 -1.0966 ... 4.7249 1.3217 1.8367
- 0.7592 1.4777 1.8095 ... 0.
浏览 3提问于2017-04-14得票数 2
测试了的nn.CrossEntropyLoss示例。似乎不起作用。
loss = nn.CrossEntropyLoss()
input = torch.randn(3, 5, requires_grad=True)
target = torch.randn(3, 5).softmax(dim=1)
output = loss(input, target)
print(output)
错误：
RuntimeError: 1D target tensor expected, multi-target not supported
浏览 6提问于2022-05-10得票数 0
回答已采纳
大家好，我是rnn的新手，我从pytorch官方教程中找到了RNN NLP FROM SCRATCH，我认为它之所以被命名为"from scartch“，是因为它没有在pytorch中使用在nn中内置的nn.RNN，比如def __init__(self, input_size, hidden_size, output_size):段中的这行self.rnn = nn.RNN(input_size, hidden_size, num_layers, batch_first=True)。那么，如果使用了nn.RNN，代码将如何演变呢？ class RNN(nn.Module):
浏览 26提问于2021-06-24得票数 1
class crossentropy(nn.Module):
def __init__(self):
super(crossentropy, self).__init__()
def forward(self, y_1, y):
m = nn.Softmax(dim=1)
output = m(y_1)
loss = -1.0*torch.sum(y*torch.log(output))
l = torch.mean(loss)
return l
浏览 2提问于2021-12-16得票数 0
我目前正在用PyTorch中的自定义优化器训练一个ResNet18模型。 我使用的是CrossEntropyLoss()和PyTorch的ResNet18模型。在tensorflow中，输出具有所需的形状，但在pytorch中，为了找到准确性，必须找到预测标签的argmax。 如果我的batch size = 64是resnet模型，为什么预测的标签是形状64,1000 这1000个值对应于什么？
浏览 167提问于2021-10-13得票数 0
回答已采纳
1回答
我在pytorch中有一个预测模型，它在特定的坐标系中获取输入并生成输出。在我的过程中，我将输出和地面实况转换到不同的坐标系(二维平移和旋转)。我现在可以计算两个坐标系中的损失，它们具有相同的值(RMSE和NLL损失)。
在训练中使用哪个损失来运行loss.backward()很重要吗？
浏览 1提问于2020-08-03得票数 0
我有一个使用mobilenetv2训练的回归模型。最后几层如下：
我想让这个mlmodel变成一个可更新的mlmodel，并训练innerProduct层(pytorch中的完全连接层)。我已经将mlmodel引用转换为这个博客：。但我发现可更新的mlmodel的第二个训练输入默认设置为"score_true“，它只是一个值(数据类型: int32)。
但是，softmax层的输出是一个具有10个浮点值的向量。那么，我如何将第二个训练输入设置为向量，因为基本事实是一个具有10个浮点值的向量。
我查阅了CrossEntropyLoss int look ltools3
浏览 21提问于2020-03-12得票数 0
在Pytorch中添加丢失时，我在torch.nn.Functional和torch.nn中都有相同的函数。有什么不同吗？
torch.nn.CrossEntropyLoss()和torch.nn.functional.cross_entropy
浏览 6提问于2020-09-10得票数 4
回答已采纳
1回答
问题
我的代码是基于的PyTorch深度学习，由，Thomas和Eli编写。一切都很顺利。它预测布尔变量的值。我想转换这个，这样它就可以预测一个实数变量的值，这个变量总是在0到34之间。
有两个部分我不知道如何转换。首先，
pos_t = torch.tensor([
not candidateInfo_tup.isNodule_bool,
candidateInfo_tup.isNodule_bool
],
dtype=torch.long,
)
(为什么在这里传递两个值，而其中一个是完全由另一个
浏览 1提问于2022-04-28得票数 0
1回答
我正在测试两个经过训练的模型，但意外地得到了一个错误。我在谷歌上搜索，但没有找到满意的结果。
码
if __name__ == "__main__":
normalize = transforms.Normalize(mean=[0.485, 0.456, 0.406],
std=[0.229, 0.224, 0.225])
tfs = transforms.Compose([
transforms.Resize((224, 224)),
transform
浏览 1提问于2022-11-16得票数 -1
我想使用pytorch的Crossentropyloss，但不知何故我的代码只适用于batchsize 2，所以我断言目标和输出的形状有问题。我得到以下错误： Value Error: Expected target size (50, 2), got torch.Size([50, 3]) 我的目标大小是(N=50,batchsize=3)，我的模型的输出是(N=50, batchsize=3, number of classes =2)。在输出层之前，我的形状是(N=50，batchsize=3，dimensions=64)。 如何更改形状才能使Crossentropyloss正常工作？
浏览 38提问于2021-01-10得票数 0
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
实时音视频活动推荐
腾讯云开发者
