我在做图形处理器特斯拉M6。根据其数据表，特斯拉M6有12个多处理器，每个处理器最多容纳32个驻留块。因此，驻留在整个设备上的数据块总数最大为384。现在，我有一个大小为(512,1408)的数据矩阵。我写了一个内核，并将每个块的线程数设置为64 (1D块，每个线程一个数据元素)，因此1D网格大小为512x1408/64= 11264块，这远远超过了GPU</em
浏览 21提问于2019-05-04得票数 0
回答已采纳
我的理解是，在CUDA中，增加块的数量不会增加时间，因为它们是并行实现的，但是在我的代码中，如果我将块的数量增加一倍，那么时间也会增加一倍。那么，时间会增加的原因是什么呢？是因为我访问常量内存，还是将数据从共享内存复制到全局内存？这是一些优化它的方法吗？
浏览 2提问于2016-12-05得票数 0
回答已采纳
1回答
我最近读了这篇CUDA教程：和一件事还不清楚。当我们将两个向量相加时，我们将任务分成几个块和线程来并行地执行。我的问题是，为什么块(可能是线程)的数量不取决于GPU的物理属性、物理SMP和线程的数量？例如，假设GPU有16个SMP，每个SMP都可以运行128个线程，那么将问题分成16个块为128个线程是更快，还
浏览 1提问于2021-01-13得票数 2
1回答
我已经读过几个关于GPU容量的线程，并且理解块和线程的概念必须从物理硬件中分离出来。虽然每个块的最大线程数是1024个，但是可以使用的块数没有限制。然而，由于流处理器的数量是有限的，必须有一个物理限制。在我编写了一个GPU程序之后，我会有兴趣评估我的
浏览 5提问于2022-05-01得票数 -1
回答已采纳
我在我的机器上安装了CUDA 2.1，它有一个带有64个cuda内核的显卡。我已经写了一个程序，在其中我同时初始化30000个块(每个块一个线程)。但我从gpu上得到的结果并不令人满意(它的执行速度比cpu慢)
是否数据块数量必须小于或等于核心数量才能获得良好的性能？或者，性能与数据块
浏览 3提问于2011-06-13得票数 8
回答已采纳
评论/说明
我正在使用以下代码运行一个cuda程序来启动cuda内核：
cuda_kernel_func<<<960, 1>>> (... arguments ...)我认为这将是我可以做的事情的限制，因为我在笔记本电脑上有
浏览 11提问于2015-10-18得票数 0
SMs和多处理器是不同的东西，对吗？例如，通过使用可视化分析器，我得到了一个虚拟内核，当启动时只有一个线程块，它只能等待370 of。我可以推出它与4个块1024线程与一个SM，它仍然持续370毫秒。这是正常的，因为任务使用芯片的两个多处理器，每个处理器使用2048个并发线程(当我使用5个块x 1024时，它需要740 is，正常)。同样，我可以使用4条SMs同时启动4次1块102
浏览 2提问于2013-09-29得票数 4
回答已采纳
1回答
我是如何并行化这个问题的:启动320个块(可能不是最好的数量)，这样每个块将并行执行与其元素相关的设备功能。CPU将以串行方式处理整个问题，其中它将逐个元素并逐个调用每个函数，而GPU将为每个块分配一个元素，以便所有320个块都可以访问相关的设备功能并同时计算。从理论上讲，对于大量的元素，GPU应该更快--至少我</em
浏览 1提问于2013-07-18得票数 0
我的GPU的能力是2.1，有2个SMs，每个SM有48个核心。根据CUDA编程指南提供的技术规范，网格的最大块数为65535，每个多处理器的驻留块的最大数量为8。也许
浏览 1提问于2013-07-15得票数 1
2回答
是否有可以在CUDA代码中设置的命令/函数/变量来限制GPU使用百分比？我想修改一个名为Flam4CUDA的开源项目，以便该选项存在。他们现在的做法是，它使用了尽可能多的GPU，其效果是温度飙升(显然)。为了在长时间的计算中保持低温度，我希望能够告诉程序使用，比如说，每个GPU的50% (或者甚至对不同的GPU</em
浏览 2提问于2011-06-10得票数 4
我试图理解GPU的基本架构。我已经经历了很多材料，包括这个。但是，我仍然很困惑，无法得到一个好的照片。
每个块都可以访问共享内存。另一个块无法访问
浏览 0提问于2015-08-26得票数 9
1回答
每个multiprocessor=2048的线程数
6144/1024=6，即总共6个街区。经纱的尺寸是32。但是从这个视频中我发现每个GPU对线程都有限制，但是对块的数量没有限制。
我的GPU中有多少个线程？我们可以使用所有线程来执行</em
浏览 0提问于2018-06-26得票数 3
我正试图在一个拥有大量可训练变量的大型网络上运行一个超参数优化(使用spearmint)。我担心当我尝试一个隐藏单元数量过大的网络时，Tensorflow会抛出一个GPU内存错误。我想知道是否有一种方法可以捕获Tensorflow抛出的GPU内存错误，并跳过导致内存错误的一批超参数。例如，我想要的是
import tensorf
浏览 3提问于2017-01-30得票数 5
回答已采纳
1回答
我已经用NVIDIA Profiler测试了一个内核，该内核输出如下：我们用256个块和256个线程启动了内核。据我所知，渐变显示了三个部分，一个是翘曲部分，一个是寄存器部分，一个是共享内存部分，每个部分都有一个计算出来的“块限制”，其中寄存器部分中的部分是最小的，也是最有限的。显然，内核是寄存器绑定的，我们只能在一个SM上同时启动4个块。剖析者是这么说的。我完全是在问自己以下几点：
一
浏览 5提问于2014-09-10得票数 1
回答已采纳
我正在做一个项目，包括使用Visual Studio 2012和CUDA开发，并集成了Nsight调试环境。我可以很容易地看到在图形处理器上的线程直到threadIdx == 128，但是，当我试图看到更高的索引线程，这意味着除了第一块，使用调试焦点对话框通过CUDA调试焦点，我有困难，切换到其他块。这是否是Nsight的正常操作，如有任何答案，将不胜感激。谢谢大家。
浏览 4提问于2016-08-24得票数 0
1回答
刚开始学习CUDA，有些东西我还不太明白。我想知道，除了优化GPU工作负载之外，是否还有理由将线程分割成块。因为如果没有，我不明白为什么需要手动指定块的数量和大小。这样做不是更好吗?简单地提供解决任务所需的线程数，让GPU通过SMs分发线程不是更好吗？overall number of threads
浏览 2提问于2017-11-24得票数 0
回答已采纳
1回答
似乎每个SM都允许最大数量的驻留块。但是，尽管其他“硬”限制很容易找到(例如，通过` `cudaGetDeviceProperties')，但居民街区的最大数量似乎没有得到广泛的记录。在下面的示例代码中，我将内核配置为每个块一个线程。为了检验这个GPU (一个P100)每个SM最多有32个驻留块的假设，我创建了一个由56*32块组成的网
浏览 2提问于2020-04-23得票数 1
回答已采纳
2回答
在我的cuda代码中，如果我增加blocksizeX，blocksizeY，它实际上花费了更多的时间，我以1x1的速度运行它。我的一大部分执行时间(例如，9秒中的7秒)是由对内核.Infact的调用占用的。我很惊讶，即使我注释掉整个内核，时间也几乎是same.Any建议的，在哪里以及如何优化？附注:我已经用<e
浏览 5提问于2011-02-19得票数 1
1回答
最终，如果我运行任何大于2^ll的块，我将得不到任何数据(全为零)。我已经通过修改内核代码进行了一些测试，从我可以看出内核没有执行。我试图弄清楚为什么我的代码在对大块大小进行多次迭代后停止生成数据。我知道我必须运行处理的多次迭代才能导致错误。起初，只有较大的块大小将停止工作，但随着我<
浏览 0提问于2011-06-04得票数 0
回答已采纳
假设你的GPU有8条短信。因此，如果您使用足够的块(例如200块)执行CUDA内核，那么将使用所有8条SMs执行吗？
我知道这些翘曲将由调度程序在每个SM中进行调度。这意味着翘曲不会并
浏览 2提问于2018-07-18得票数 2
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
云直播
对象存储
腾讯会议活动推荐
腾讯云开发者
