1回答
我试图为我的GPU加速应用程序建立两种内存带宽利用率和计算吞吐量利用率的总体测量方法，使用CUDA nsight分析器在ubuntu上。该应用程序运行在特斯拉K20c GPU上。
我想要的两个测量值在某种程度上可以与图中的测量结果相比较：
问题是这里没有确切的数字，更重要的是，我不知道这些百分比是如何计算的。
内存带宽利用
Profiler告诉我，我的GPU的最大全局内存带宽为208 GB/s。
这指的是设备内存BW还是全局内存BW？它是全球性的，但第一个对我来说更有意义。
对于我的内核，分析器告诉我设备内存带宽是98.069 GB/s。
假设208GB/s的最大值指
浏览 4提问于2015-01-25得票数 7
回答已采纳
我已经写了一个CUDA程序，它已经得到了一个加速与40的串行版本(2600 K比GTX 780)。现在，我正在考虑使用几个流来运行几个内核并行。现在我的问题是:我如何衡量我的GPU上的免费资源(因为如果我在GPU上没有免费资源，那么流的使用就没有意义了，对吗？)，在这种情况下，流的使用是有意义的吗？
如果被问到的话，我当然可以提供我的代码，但现在我觉得没有必要问这个问题。
浏览 3提问于2014-06-30得票数 0
回答已采纳
我目前正在使用一个工具，随nvidia的驱动程序'nvidia-smi‘，用于GPU上的性能监控。当我们使用“nvidia-smi-a”时，它会给出当前GPU信息的信息，包括GPU核心和内存使用情况、温度等：
==============NVSMI LOG==============
时间戳: Tue
2月22日22:39:09 2011
驱动程序版本: 260.19.26
GPU 0：
产品名称: GeForce 8800 GTX PCI设备/供应商ID :19110 ID PCI位置ID: 0:4:0板串行: 211561763875显示:连接温度: 55℃风扇速度: 47%使用
浏览 3提问于2011-02-23得票数 9
我用BASIG_GPU运行了一个cloudml作业。
我想检查Walker的cpu、gpu和内存使用情况，但可以吗？
原因是我申请了一个图形处理器，但我想看到当我转向两个工作(scaleTier: BASIG_GPU)时图形处理器使用率的变化。
谢谢。
浏览 23提问于2018-01-04得票数 0
可以动态地查询Android设备的当前CPU时钟，类似于下面提到的内容。
adb shell "cat /sys/devices/system/cpu/cpu0/cpufreq/scaling_cur_freq"
但是，GPU似乎没有类似的选择。我想知道是否有一种方式，任何东西，做同样的GPU。任何帮助都是非常感谢的。
(CPU/GPU频率不是速度的好指标。我主要需要它们来研究DVFS)
浏览 1提问于2018-03-05得票数 3
回答已采纳
我最近开始使用wandb模块和我的PyTorch脚本，以确保图形处理器的有效运行。然而，我不确定图表到底表明了什么。 我一直在关注这个链接中的教程， https://lambdalabs.com/blog/weights-and-bias-gpu-cpu-utilization/ ，并被这个图搞糊涂了： ? 我不确定GPU %和GPU内存访问百分比图表。博客中的描述如下： GPU %：这个图可能是最重要的一个。它跟踪过去采样周期内一个或多个内核在GPU上执行的时间百分比。基本上，您希望这个值接近100%，这意味着GPU一直在忙于处理数据。上图有两条曲线。这是因为有两个GPU，并且
浏览 77提问于2021-02-03得票数 2
回答已采纳
当我试图运行某些Py火炬代码时，我会得到以下错误：
THCudaCheck FAIL file=/pytorch/aten/src/THC/THCGeneral.cpp line=74 error=38 : no CUDA-capable device is detected
Traceback (most recent call last):
File "demo.py", line 173, in test
pca = torch.FloatTensor( np.load('../basics/U_lrw1.npy')[:,:6]).cuda()
Runti
浏览 0提问于2019-05-26得票数 4
我刚刚在一个安装了两个simpleMultiGPU GPU的服务器上运行了K20m。然后运行nvidia-smi命令来显示GPU的状态。结果如下：
问题如下：
GPU内存的使用似乎不一样。
device 1的挥发性GPU含量为99%.
有什么建议吗？
浏览 3提问于2014-09-07得票数 3
回答已采纳
我从prettytensor运行演示shakespeare.py，并想知道使用CPU和GPU是如何影响每批培训运行时的。因此，我在local_trainer.py中添加了以下行
tick = time.time()
results = sess.run(ops, dict(zip(feed_vars, data)))
print('done in %.4f secs' % (time.time() - tick))
它位于run_model函数的309号线上。
然后，我通过设置export CUDA_VISIBLE_DEVICES=""强制在CPU上进行培训。我
浏览 2提问于2016-12-15得票数 1
回答已采纳
我刚刚在我的Windows10电脑上安装了两个 GPU软件，CUDA软件和CuDNN软件。通过跟踪堆栈溢出响应，我检查了一切是否正常，但是我收到了一条带有大量警告的大消息。我不知道怎么解释它。这个消息是否意味着某些东西和我的TensorFlow/Keras代码不能工作？
这是信息：
2017-08-09 09:03:52.984209: W c:\tf_jenkins\home\workspace\release-win\m\windows-gpu\py\35\tensorflow\core\platform\cpu_feature_guard.cc:45] The TensorFlow li
浏览 0提问于2017-08-09得票数 1
回答已采纳
我正在尝试在ray集群上运行rllib算法。我得到以下消息："Memory usage on this node: 20.8/64.4 GB“ 我该如何让它充分利用内存呢？如何交叉检查GPU或CPU使用率是否在90%以上？ 热心帮助..。
浏览 37提问于2019-02-21得票数 0
我有一个张量A，形状为a，n，我需要用另一个b，n形的张量 b 来执行op my_op，使得由此产生的张量C具有a，b的形状。
换句话说:对于A (A，A，...An)中的每个次张量，我需要对B中的每个次张量执行元素分运算。
因此，由此产生的张量将包含以下内容：
[ [ A[0] op B[0] , A[0] op B[1], ... , A[0] op B[b] ],
[ A[1] op B[0] , A[1] op B[1], ... , A[1] op B[b] ],
[ ... ],
[
浏览 9提问于2017-10-31得票数 15
我试着用下面的代码训练一个DQN模型。GPU (cuda)的使用率总是低于25 %。我知道tensorflow后端正在查询GPU资源，但使用率很低。有什么办法可以提高GPU的利用率(当我训练CNN网络时，GPU (cude)利用率约为70 %)？
如何修改代码，使其运行更快或使用更多的GPU资源。或者Dqn很难在GPU上工作？
import numpy as np
from tensorflow.keras import Sequential
from tensorflow.keras.layers import Dense, Dropout, Conv2D, MaxPooling2D, Ac
浏览 5提问于2022-07-29得票数 1
回答已采纳
1回答
我正在学习这教程，有人提到我需要用这种方式配置后端，但是.我正在使用GPU，我关心GPU的利用率，当前的配置是用于CPU利用率的，后端服务支持GPU的使用吗？
gcloud compute backend-services add-backend ${WEB_BACKED_SERVICE_NAME} \
--balancing-mode UTILIZATION \
--max-utilization 0.8 \
--capacity-scaler 1 \
--instance-group ${INSTANCE_GROUP_NAME} \
--instance-gr
浏览 0提问于2019-02-01得票数 0
1回答
我在mnist数据集上使用RTX 2080 ti。我安装了tensrflow-gpu。在其他环境中，它比仅在CPU上运行快近12倍。
我正在检查任务管理器CPU和GPU的性能，同时训练。以下是培训期间的表演：
GPU环境： CPU =20% GPU = 10%训练时间=24秒
CPU环境： CPU =100% GPU = 10%训练时间= 500秒
我想知道GPU在10%上运行是否正常？我可以手动增加或降低性能吗？
浏览 3提问于2020-05-05得票数 2
我有一个简单的Keras模型，我提交给Google平台培训，并希望利用GPU进行处理。
作业提交并成功完成。从使用统计数据来看，GPU从未超出0%利用率。然而，CPU的使用随着培训的进展而增加。
你知道让我的模型和GPU一起工作有什么不对吗？有什么办法可以解决这种情况吗？
config.yaml
trainingInput:
scaleTier: CUSTOM
masterType: standard_gpu
我使用的是运行时版本1.13，它已经安装了tensorflow。我的setup.py中所需的附加包包括：
REQUIRED_PACKAGES = ['google-api
浏览 0提问于2019-08-14得票数 1
回答已采纳
2回答
我需要gpu的信息，我的库达项目测试。
我正在使用nvml库，并且成功地获得了温度信息。但是，nvml在nvmlDeviceGetUtilizationRates()中报告了nvmlDeviceGetUtilizationRates。
那么现在，如何获得gpu的利用率呢？显然，将有一种方式类似NVIDIA的GeForce经验。
谢谢,
附注：糟了！我名声不够..。如果您希望看到NVIDIA GeForce体验示例图像，。
浏览 17提问于2014-04-05得票数 0
回答已采纳
我使用export CUDA_VISIBLE_DEVICES=1在GPU 1上运行tensorflow，nvidia中的一切看起来都很好，我的python进程运行在gpu 1上，内存和功耗显示GPU 1正在使用。
但奇怪的是，GPU 0未使用(基于进程列表、内存、电源使用和常识)显示96%的易失性GPU利用率。
有人知道为什么吗？
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 367.48 Driver Version: 3
浏览 8提问于2016-11-18得票数 3
回答已采纳
3回答
有没有一种标准的方法来获取GPU上的当前负载？我正在寻找类似于显示CPU%的任务管理器的内容。诸如GPU-Z之类的实用程序显示了这个值，但我不确定它是如何获得这个值的。我目前对AMD显卡特别感兴趣，任何指点都会有帮助。
如果没有干净的API方法来做这件事，有没有我可以捕获其输出以获取此信息的程序？
浏览 7提问于2010-01-29得票数 10
回答已采纳
1回答
我在训练凯拉斯模型。在培训期间，我只使用了5%到20%的CUDA核心和我的NVIDIA 2070内存的一小部分。模型培训是相当缓慢的，目前，我真的很想利用我的许多可用的CUDA核心，以加快这一点！
nvidia dmon # (during model training)
# gpu pwr gtemp mtemp sm mem enc dec mclk pclk
# Idx W C C % % % % MHz MHz
0 45 49 - 9 6 0
浏览 1提问于2020-05-10得票数 0
我正在运行自定义培训作业使用谷歌云顶点AI。但是，当我输入自定义培训作业页面时，不会显示GPU利用率显示，相反，会有一条消息说“您无法访问这些数据”。
我将感谢帮助找到正确的IAM角色，这将允许我查看GPU的利用率。谢谢!
浏览 2提问于2022-08-09得票数 0
回答已采纳
1回答
我在windows10中开始使用mxnetR的GPU计算。
一个简单的问题是，如果带有mx.gpu的mx.mlp在图形处理器中使用多核。我似乎没有..。
作为测试，我用doParallel编写了一个简单的mx.mlp程序。但它似乎不能在多核中运行该程序。只增加了1个GPU核心的使用率。
请告诉我你的想法如何在图形处理器中使用多核，以最大限度地发挥mx.mlp与mx.gpu的图形处理器计算的价值。
浏览 3提问于2017-09-06得票数 0
我正在编写训练相对较大的RNN (128单元LSTM和一些附加层)的代码。主要的进程是在CPU上最大限度地使用内核，我想知道这是否正常，或者我是否可以优化它。在训练循环(session.run调用)中，它使用大约60-70%的GPU负载，而在一个内核上使用100%的CPU负载。请注意，数据采样工作已经在其他内核上并行完成，因此这只是模型参数的更新。这对于TensorFlow中的这类应用程序来说是正常的吗?或者当使用图形处理器的全部容量时，CPU负载应该低得多？
浏览 20提问于2017-03-17得票数 1
1回答
我最近开始使用Numba作为大学作业的一部分，重点是比较Numba和Cuda-C之间特定GPU并行化代码的性能。我已经用Cuda-C编写了代码，它工作得很好，我甚至还检查了Nsight的GPU占用情况。但是当我把它移到Numba进行适当的调整时，我的任务管理器指出代码只使用了可用GPU的一小部分(20%~30%)。
我接着测试了一些标准代码，比如矩阵乘法，它在Numba上运行良好。更有趣的是，将代码中的数据大小加倍并不会使GPU占用率加倍。
有没有人有办法解决这个问题？
其他信息：
我在联想Ideapad游戏3i上使用GTX 1650 (4 4GB)；通过anaconda在Spyder 5.1
浏览 8提问于2021-11-05得票数 0
我试图在一段时间内获得关于GPU (我的是一台运行在Linux上的NVIDIA K20 )的总体利用率的信息。所谓“总体”，我指的是，计划运行多少流多处理器，以及计划运行多少GPU核(我想，如果一个内核正在运行，它将以其全速/频率运行)。如果我能用flops来衡量总体的利用率，那也是很好的。
当然，在这里问这个问题之前，我已经搜索和调查了几个现有的工具/库，包括NVML (以及建立在它之上的nvidia-smi )、CUPTI (和nvprof)、PAPI、TAU和Vampir。然而，似乎(但我还不确定)他们谁也不能向我提供所需的信息。例如，NVML可以按百分比报告"GPU利用率“，但
浏览 3提问于2014-11-06得票数 5
回答已采纳
最后，我得到了一台有两个GPU的计算机，并测试了https://pytorch.org/tutorials/beginner/blitz/data_平行_tutorial.html和https://github.com/tensorflow/models/tree/master/tutorials/image/cifar10_估计量，并确认这两个GPU都在使用(两者的功率都增加到160-180，内存几乎都被耗尽，GPU在这两个时间上都增加到45%左右)。
因此，我决定在我过去用一个GPU训练过的退出神经网络上试用tensorflow的MirroredStrategy()。
但我不明白的是，两者
浏览 0提问于2019-11-22得票数 1
1回答
首先，这个问题与神经网络推理有关，而不是训练。
我发现，当在GPU (例如P100)上一次又一次地对一幅图像进行训练的神经网络进行推理时，Tensorflow计算能力的利用率不是100%，而是70%左右。如果图像不必传输到GPU，情况也是如此。因此，这个问题必须与计算并行化中的约束联系起来。我对此最好的猜测是：
Tensorflow只能在一定程度上利用GPU的并行化功能。(与TensorRT模型相同的模型的更高利用率也表明了这一点)。在这种情况下，问题是:原因是什么？
具有多个后续层的固有神经网络结构避免了更高的使用可能性。因此，问题不在于框架的开销，而在于神经网络的总体设计。在这种情
浏览 0提问于2018-11-10得票数 0
我在一台安装了4x NVIDIA Titan X的机器上运行CIFAR10 ()的tensorflow示例。
python cifar10_multi_gpu_train.py --num_gpus=4
然而，GPU的使用率仅为25%。谁能解释一下瓶颈是什么以及我如何解决它？输入管道和从CPU到GPU的数据传输是否存在问题？
浏览 13提问于2017-03-15得票数 2
Windows10-pro，单RTX 2080 Ti我是Tensorflow的新手。 我刚刚安装了tensorflow-gpu，版本2.1.0，python 3.7.7。Cuda编译工具，版本10.1，V10.1.105。没有自编译的东西。我没有安装cuDNN，也没有注册。所有的安装都是标准的，没有自编译的。 tensorflow.org文档指出，需要使用cuDNN才能使用图形处理器。但是我的GPU使用测试似乎通过了。例如，tf.config.experimental.list_physical_devices('GPU')返回[PhysicalDevice(name=
浏览 46提问于2020-09-14得票数 0
1回答
我一直在tensorflow教程中运行CIFAR10模型，以跨多个GPU进行训练。
来源：
GPU: NVIDIA 8* M40
配置: Tensorflow 0.8.0、CUDA7.5、cuDNN 4
训练性能的结果没有预期的可伸缩性。图形的模式看起来像Amdahl定律。
正常吗？如果是，你认为是什么原因造成的？
浏览 2提问于2016-04-22得票数 1
psutil和sar for Linux cpu使用情况有什么不同？例如，我想知道哪种资源和计算。
浏览 6提问于2017-04-19得票数 0
1回答
我偶然发现了Nvidia optimus在linux上的实现，叫做大黄蜂项目，我用Nvidia显卡在我的笔记本电脑上安装了大黄蜂。问题是，对于需要使用离散gpu的应用程序，必须通过一个特殊的命令"Optirun“来运行。因此，只有当这样做的时候，离散的gpu才会被打开，否则它会在必要时关闭以节省电力。有没有一种方法来确定应用程序是否需要独立的gpu来运行，或者可以在普通的片上图形处理器上运行。这在linux中能做到吗？
浏览 1提问于2012-01-21得票数 2
回答已采纳
我目前正在Tensorflow上训练一个递归网络来解决文本分类问题，并且遇到了性能和内存不足的问题。我使用的是带有Ubuntu 14.04的AWS g2.8xlarge，以及最近的每晚构建的tensorflow (我于8月25日下载)。
1)性能问题：
从表面上看，CPU和GPU的利用率都很低。我已经对此运行了多个测试(并在此过程中使用了line_profiler和memory_profiler )。训练持续时间与纪元数成线性关系，所以我用1个纪元进行测试。RNN配置=1层，20个节点，训练时间= 146秒。
顺便说一句，这个数字比在g2.2xlarge上运行的相同测试高/慢大约20秒！
以下
浏览 15提问于2016-09-08得票数 2
首先是我的代码： from sklearn.datasets.samples_generator import make_blobs
from matplotlib import pyplot
from numpy import where
from keras.utils import to_categorical
from keras.layers import Dense
from keras.models import Sequential
from keras.optimizers import SGD
from keras.utils import multi_gpu_mode
浏览 20提问于2019-01-23得票数 0
我正在运行大型模型(774M)的GPT-2代码。它用于通过interactive_conditional_samples.py生成文本样本，链接：<code>C0</code>
因此，我给出了一个输入文件，其中包含自动选择以生成输出的提示。此输出也会自动复制到文件中。简而言之，我不是在训练它，我是在使用模型来生成文本。另外，我使用的是单个GPU。
我在这方面面临的问题是，代码没有充分利用GPU。
通过使用nvidia-smi命令，我能够看到下图
<code>C1</code>
浏览 31提问于2019-12-03得票数 2
在Xcode的工具中，有一个名为的工具，它公开由中央处理器提供的低级计数器信息，例如执行的指令数量或缓存未命中的数量：
这类似于Linux2.6.32中引入的Linux syscall 。在Linux上，我可以使用perf_event_open，然后开始/停止分析我感兴趣的代码部分。我想在OS X上记录相同类型的统计数据:计算指令(等等)某段代码所需的代码，并以自动化的方式获得结果。(我不想使用Instruments GUI来分析数据。)
有没有允许这样做的API(例如:使用dtrace或类似的)？从一些搜索中，听起来私有AppleProfileFamily.framework可能有
浏览 36提问于2015-09-12得票数 52
1回答
我正在用tensorflow.keras训练一个三维CNN。能探测到我的GPU。当我运行以下代码时：
print(tf.config.list_physical_devices('GPU'))
print(tf.config.list_logical_devices('GPU'))
我得到以下输出：
[PhysicalDevice(name='/physical_device:GPU:0', device_type='GPU')]
[LogicalDevice(name='/device:GPU:0', devic
浏览 4提问于2022-02-21得票数 0
回答已采纳
XCode 4中的OpenGL ES驱动程序工具不再具有拖拉器和渲染器利用率，这两个最有用的统计信息用于测量OpenGL ES瓶颈。它们被重新命名了吗？我注意到有两个新的可测量的统计数据，GPU核心利用率和GPU视频引擎利用率；它们现在分别跟踪平铺和渲染利用率吗？
浏览 4提问于2011-06-08得票数 1
假设我有一个在高负载下为html页面提供服务的web服务器。让我们假设，由于某种原因，瓶颈不是cpu，不是ram，不是磁盘，而是网络本身。我怎么知道Linux服务器只是发送或接收了太多的通信量而跟不上呢？我怎么知道网络带宽是否超过其容量的60%？如果它的容量过大，我该如何扩展它？
浏览 0提问于2019-07-23得票数 1
回答已采纳
2回答
我刚刚用2个GPU (Nvidia Tesla K80)在Google Compute Engine上启动了一个实例。一开始，我就可以通过nvidia-smi看到其中一个已经被充分利用了。
我检查了一个正在运行的进程列表，没有任何进程在运行。这是否意味着谷歌已经将相同的GPU出租给了其他人？
它都在这台机器上运行：
No LSB modules are available.
Distributor ID: Ubuntu
Description: Ubuntu 16.04.5 LTS
Release: 16.04
Codename: xenial
浏览 3提问于2018-10-11得票数 4
我正在使用Tensorflow 2.5来训练一个starGAN网络来生成图像(128x128jpeg)。我使用tf.keras.preprocessing.image_dataset_from_directory从子文件夹加载图像。此外，我使用参数来最大化加载性能，就像在各种帖子和线程(如loadedDataset.cache().repeat.prefetch )中建议的那样，我还使用num_parallel_calls=tf.data.AUTOTUNE作为映射函数，用于加载后对图像进行后处理。
在GPU上训练网络时，我所获得的GPU使用性能在下面的图片中。
我对此的问题是：
使用
浏览 1提问于2021-09-27得票数 0
回答已采纳
1回答
libGL堆使用情况
、、、、
我正在开发一个基于linux的c++ OpenGL应用程序，使用的是Nvidia 290.10 64位驱动程序。我正在努力减少它的内存占用，因为它使用了相当多的实时数据。
我一直在使用valgrind/massif来分析堆的使用情况，虽然它帮助我优化了各种东西，但到目前为止，使用的最大堆内存块是由libGL分配的。无论我如何设置阈值，massif都不会让我看到这些分配的详细信息，只会告诉我它是libGL。在高峰期，我看到libGL分配了大约250MB的内存(总共使用了900MB的堆)。我在显卡上拥有与VBO和纹理相似的内存(主要是一个大的4096*4096纹理)。
因此，看起来好像libGL在
浏览 3提问于2012-05-22得票数 5
回答已采纳
在GPU实现中，我们需要根据GLOPS来评估其性能。代码非常基本，但我的问题是，我应该为"sqrt“或"mad”操作提供多少FLOPS，无论是1个还是更多。
此外，我的代码获得50 GFLOPS，如果1说这些操作1触发器，而这个GPU的理论最大值是500GFLOPS。如果我以百分比表示，我会得到10%。在加速方面，我得到了100倍的加速。所以我认为这是很棒的，但是10%的收益率似乎有点低，你觉得呢？
谢谢
浏览 0提问于2011-05-09得票数 2
回答已采纳
我正在AWS ec2上运行一个ubuntu实例。我不确定我的应用程序是否正在使用gpu加速。那么如何在aws gpu实例上检查gpu的使用呢？
浏览 0提问于2012-06-04得票数 9
我有一个应用程序，其中每个CPU核心执行许多矩阵乘法。矩阵乘法的次数可以是10的数量级，例如50。由于这些乘法运算彼此独立，因此内核可以将它们卸载到GPU上。现在，我有几个这样的核心正在被MPI程序使用。所以，我的问题是，有没有可能在这些多核之间共享GPU，以便每个核可以将矩阵乘法卸载到相同的GPU？
浏览 1提问于2014-10-21得票数 2
我的目标是弄清楚在推理过程中，保存为.pb文件的TensorFlow模型使用了多少GPU内存。通过将per_process_gpu_memory_fraction限制为值0.01并在输入图像上成功运行模型，我预计内存使用量为120MB (基于12,000MB GPU)。 conf = tf.ConfigProto()
conf.gpu_options.per_process_gpu_memory_fraction=0.01
session = tf.Session(config=conf) 当我通过nvidia-smi观察实际的图形处理器内存使用率时，我看到使用率为550MB。根据这里的答案
浏览 59提问于2020-01-07得票数 2
1回答
我想知道设置创建/训练模型的设备以优化资源使用的正确方法是什么，以便使用Keras在TensorFlow中进行快速培训？我有1个CPU和2个GPU可供我使用。最初，我使用tf.device上下文来创建模型并仅在CPU上进行培训，但后来我在TensorFlow文档中看到了，它们建议在CPU上显式实例化模型：
# Instantiate the base model (or "template" model).
# We recommend doing this with under a CPU device scope,
# so that the model's wei
浏览 3提问于2019-11-27得票数 1
回答已采纳
我的问题是，假设输入缓冲区是图像，并且它的像素在内核中被处理，那么当我们在GPU上clenqueueNDRangeKernel一个任务时，任务是否被所有的计算单元分割和处理？如果是的话，GPU的利用率应该达到100%吗？如果不是这样的话，你能告诉我我可以在哪里澄清什么时候使用GPU的百分比吗？
浏览 0提问于2018-01-25得票数 0
回答已采纳
1回答
我是tensorflow的新手，在我的M1 Mac上使用GPU。运行我的代码时，我观察到最大GPU负载约为45%。有没有办法将这一数字提高到100%左右？
我在以下conda环境中使用tensorflow：
name: tensorflow
dependencies:
- python=3.8
- pip
- jupyter
- apple::tensorflow-deps
- scikit-learn
- scipy
- pandas
- pandas-datareader
- matplotlib
浏览 10提问于2022-07-11得票数 0
回答已采纳
在Nvida CUDA C编程指南4.0的第3.2.5.5.4节中，它指出，如果在不同流之间发出设备到设备内存副本，则来自不同流的两个命令不能同时运行。我不确定这到底是什么意思。希望有人能澄清我的困惑。
假设我的程序有两个流，流0和流1。下面是启动这些流的内核的顺序。
内核0.0 (流0，假设执行时间为10ms)
内核1.0 (流1，假设执行时间为1ms)
内核1.1 (流1；假设执行时间为3ms)
内核1.2 (流1；此内核导致设备到设备的内存复制，假设执行时间为1ms)
内核1.3 (流1，假设执行时间为6ms)
让我们也假设程序没有其他开销，并且GPU有足够的SM来并发运行这些内核。我的
浏览 0提问于2012-05-10得票数 1
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM活动推荐
腾讯云开发者
