1回答
当GPU进行反向传播时，有没有办法处理CPU (计算当前最小批量损失的均值和方差)？some_loss_function(output, label) # size = (batch_size,) # =========== do on CPU() / batch_size - mean**2 loss.backward()
#gradient up
浏览 15提问于2018-08-04得票数 2
我必须生产一个PyTorch伯特问答模型。CPU推断对我来说非常缓慢，因为对于每一个查询，模型需要评估30个样本。在这30个样本的结果中，我选择了最大分数的答案。GPU太贵了，我无法用它来推断。为此，我能利用多进程/并行CPU推断吗？如果是，最佳做法是什么？如果没有，是否有云选项只对我所做的GPU查询收费，而不是连续运行GPU实例？
浏览 4提问于2019-03-20得票数 4
1回答
我试图找出GPU张量运算是否比CPU操作快。因此，我在下面编写了这个特定的代码来实现简单的2D添加CPU张量和GPU cuda张量，以查看速度差异：import time
start_time = time.time):elapsed_time = time.time() - start_time
令我惊讶的是，<
浏览 1提问于2018-11-15得票数 10
1回答
我正面临一个与GPU相关的问题。AssertionError:在您的系统中没有发现NVIDIA驱动程序。因此，我怀疑我的系统没有任何NVIDIA gpu。是真的吗？
如果是真的，是否不可能在我的系统上运行该程序(通过进行更改)？或者有什么方法可以让程序在我的系统上运行？
浏览 0提问于2020-09-02得票数 2
6回答
我使用这个命令来使用GPU。device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")device= torch.device("cuda:0,1" if torch.cuda.is_available() else "cpu")
浏览 4提问于2019-01-16得票数 57
我已经使用PyTorch在我的自定义数据集上训练了YOLO-v3 tiny。为了比较推断时间，我在CPU、PyTorch GPU和PyTorch CPU上尝试了on。平均运行时间约为：
运行时cpu: 110毫秒- CPU使用率: 60% Pytorch GPU: 50毫秒Pytorch CPU: 165毫秒- CPU<
浏览 10提问于2021-06-12得票数 2
安装了Pytorch GPU版本。我已经验证了我的Pytorch确实可以在GPU上运行良好。pytorch::pytorch-1.5.0-py3.7_cuda102_~ --> pkgs/main::pytorch-1.5.0-cpu_py37h9f948e0_0 换句话说，它总是想要替换我的GPU版本的Pytorch到CPU版本。我已经尝试过，如果继续更新，它将安
浏览 56提问于2020-06-29得票数 2
我在dgl (DeepMind的深度图形库)中导入pytorch时出错，具体地说： 符号: /home/user/anaconda3/envs/my_env/lib/python3.7/site-packages/torch/lib/libtorch.so.1:未定义符号: ImportError: nvrtcGetProgramLogSize 我尝试重新安装pytorch (使用conda un/install我也在谷歌上搜索，我找到了这
浏览 179提问于2019-04-13得票数 5
好吧，所以我现在做了很多深度学习项目和实习，我从来没有做过大量的训练。但是最近我一直在考虑做一些传输学习，我需要在GPU上运行我的代码。这是我的问题-
，当我在tf或pytorch中定义张量时，默认情况下它是一个cpu张量。所以，到目前为止，我所做的所有训练都是在CPU上进行的。所以，如果我确保安装了正确版本的Cuda和cuDNN以及tensorflow-gpu (特别是tensorflow)，我就可以使用tf和pytorch
浏览 5提问于2020-08-20得票数 1
1回答
我对在CUDA上运行int8量化模型是否可能感到困惑，或者您是否只能在CUDA上使用fakequantise来训练量化模型，以便在另一个后端(如CPU )上部署。如果有可能在CUDA上使用不同的框架(如TensorFlow )运行量化模型，我很想知道。model_fp = torch.load(models_dir+net_file)
model_to_quant，并引发一个N
浏览 0提问于2021-10-26得票数 2
展示了如何安装PyTorch的图形处理器和中央处理器版本：和两个版本可以安装在同一个Conda环境中吗？如果你可能会问为什么需要这个，那是因为我想要一个单一的Conda环境，我可以在有图形处理器和没有图形处理器的计算机上使用
浏览 97提问于2019-10-23得票数 4
1回答
7 == 0: g['lr'] = g['lr']*0.1;
但是当我训练简单的MLP时，CPU的使用率是100%左右，而gpu的使用率只有10%左右。防止使用GPU的问题是什么？
浏览 1提问于2018-06-09得票数 1
回答已采纳
2回答
有人尝试在Android上运行对象检测或crnn模型吗？我试着运行crnn模型(序列化的pytorch)，但在华为P30 lite上需要1秒，在三星J4酷睿上需要5秒。Huawei P30 lite GPU : Mali-G51 MP4
CPU : quad coreGPU : Adreno 308 android设备中的GPU与专用GPU
浏览 37提问于2020-04-24得票数 3
回答已采纳
似乎有几种方法可以在iOS上运行Pytorch模型。caffe2PyTorch(.pt) PyTorch(.pt) -> onnx -> -> onnx -> Core-ML (.mlmodel)PyTorch(.pt) -> LibTorch (.pt)PyTorch Mobile?
浏览 3提问于2020-06-05得票数 4
回答已采纳
1回答
在这里，批量大小为32的情况如下：> (32, 5, 256, 512, 3)
现在我想在这些图像上应用一些OpenCV和Torch操作。
浏览 10提问于2022-09-15得票数 0
1回答
当创建一个新的mamba (conda)环境时，我只会得到Py火炬的CPU包。有人知道如何确保/强制GPU版本吗？ + pytorch-mutex1.0 cpu
浏览 14提问于2022-10-28得票数 1
1回答
GPU和CPU上的运行模型
、、、、
我可以访问一个hpc节点，3个GPU，最多38个CPU。我有一个变压器模型，我运行的单一GPU目前，我想利用所有的GPU和CPU。我看过几个关于数据并行和DistributedDataParallel的教程。他们只提到了如何使用多个GPU。我是使用数据并行还是DistributedDataParallel？如何使我的代码同时运行在GPU和<
浏览 0提问于2022-08-16得票数 0
回答已采纳
2回答
不能将GPU与火炬一起使用
、、、、
如果您在一台只运行CPU的机器上运行，请使用torch.load和map_location=torch.device(“CPU”)将您的存储映射到CPU。我使用conda install pytorch torchvision cudatoolkit=10.1 -c pytorch安装了Pytorch。有了tensorflow，我的GPU运行得很好。
浏览 3提问于2019-12-27得票数 3
我正在运行一个preprocessing.上带有PyTorch on 成像数据的UNet，其中包含一系列的转换和增强。然而，在深入研究不同的预处理包(如Torchio和MONAI )之后，我注意到大多数函数，即使它们以张量作为IO，也在CPU上运行。因此，我认为在CPU上运行转换和增强是非常低效率的。
首先，它使我的程序CPU绑定，因为它需要更多的时间来转换我的映像，而不是在模型中运行它们(我对其进
浏览 3提问于2021-08-04得票数 1
云服务器
ICP备案
实时音视频
云直播
对象存储
腾讯云开发者
