CUDA执行时间与块大小的比较
CUDA是一种并行计算平台和编程模型，用于利用GPU进行高性能计算。在CUDA中，程序员可以使用CUDA C/C++语言编写并行计算任务，并通过调用GPU的计算资源来加速计算过程。
CUDA执行时间与块大小之间存在一定的关系。块大小是指在CUDA中将任务划分为多个线程块的大小。较小的块大小可能导致较高的线程调度开销，而较大的块大小可能导致资源利用不充分。因此，选择合适的块大小对于优化CUDA程序的执行时间非常重要。
一般来说，较小的块大小适用于计算密集型任务，而较大的块大小适用于内存访问密集型任务。这是因为较小的块大小可以更好地隐藏内存访问延迟，而较大的块大小可以更好地利用GPU的并行计算能力。
在选择块大小时，可以通过实验和性能分析来确定最佳值。一种常见的方法是使用CUDA的性能分析工具，如nvprof，来测量不同块大小下的执行时间，并选择执行时间最短的块大小作为最佳值。
在腾讯云的GPU实例中，可以使用腾讯云的GPU计算服务来进行CUDA程序的开发和部署。腾讯云的GPU计算服务提供了多种GPU实例类型，如NVIDIA Tesla V100、NVIDIA Tesla P40等，可以满足不同计算需求。具体的产品介绍和相关链接地址可以参考腾讯云的官方文档：
- 腾讯云GPU计算服务：https://cloud.tencent.com/product/gpu
- NVIDIA Tesla V100产品介绍：https://cloud.tencent.com/product/gpu/tesla-v100
- NVIDIA Tesla P40产品介绍：https://cloud.tencent.com/product/gpu/tesla-p40
需要注意的是，以上提到的腾讯云产品和链接仅作为示例，实际选择云计算服务提供商时应根据具体需求进行评估和比较。
相关·内容
我有一个简单的cuda应用程序，其代码如下：
#include <stdio.h>
#include <sys/time.h>
#include <stdint.h>
__global__
void daxpy(int n, int a, int *x, int *y) {
int i = blockIdx.x*blockDim.x + threadIdx.x;
y[i] = x[i];
int j;
for(j = 0; j < 1024*10000; ++j) {
y[i] += j%10;
}
}
// debug
浏览 4提问于2015-05-06得票数 2
回答已采纳
为什么blockDim，一个块中的线程总数，对于一个CUDA程序中的网格中的所有块都是相同的？我知道如果所有块的块大小都相同，索引将非常容易，但如果我有大小倍数为32 (对于warps)但按递增顺序排列的块，则AP或GP索引可能非常容易。
使网格的所有块大小相同的理由是什么？
浏览 2提问于2013-08-21得票数 0
我对Cuda编程很陌生。我正在尝试RGB到灰色等级的转换。但是，我不知道如何选择块大小和网格大小。我偶然发现了这段代码，它执行得很好。但我不明白gridSize是怎么被选中的。我用的是Tegra TK1 Gpu，它有-
1 MP,192 cuda核/MP。
最大线程数/块数=1024。
最大常驻经度数/mp=64。
螺纹/块的最大尺寸=(1024,1024，64)
网格size=的最大维数(2147483647,65535)。
我的怀疑是-
如何确定块大小和网格大小？
如果我将块大小从(16,16,1)更改为(32,32,1)，则所需时间更长。为什么会这样呢
浏览 6提问于2015-09-02得票数 2
回答已采纳
我是CUDA的初学者，我的同事总是用下面的包装来设计内核：
__global__ void myKernel(int nbThreads)
{
int threadId = blockDim.x*blockIdx.y*gridDim.x //rows preceeding current row in grid
+ blockDim.x*blockIdx.x //blocks preceeding current block
+ threadIdx.x;
if (threadId < nbThre
浏览 2提问于2014-10-06得票数 3
回答已采纳
1回答
我有一个调用一系列设备函数的CUDA内核。
获取每个设备功能的执行时间的最佳方法是什么？
获取其中一个设备函数中一段代码的执行时间的最佳方法是什么？
浏览 2提问于2012-06-26得票数 10
回答已采纳
评论/说明
我能有更多的线程块超过最大数量的CUDA核心吗？
经纱尺寸与我在做什么有什么关系？
开始
我正在使用以下代码运行一个cuda程序来启动cuda内核：
cuda_kernel_func<<<960, 1>>> (... arguments ...)
我认为这将是我可以做的事情的限制，因为我在笔记本电脑上有一个GTX670MX图形处理器，根据Nvidia的网站，它有960个CUDA核心。
因此，假设程序会崩溃，我尝试将960更改为961。它没有..。
这里发生了什么事？
这是deviceQuery的输出
./deviceQuery S
浏览 11提问于2015-10-18得票数 0
如何在数据自动化系统中自动确定二维数组(如图像处理)的块大小和网格大小？
CUDA具有cudaOccupancyMaxPotentialBlockSize()函数，可以自动计算cuda内核函数的块大小。见。在这种情况下，它可以很好地用于一维数组。
对于我的情况，我有一个640x480图像。
如何确定块/网格大小？我用：
////image size: 640x480
int x_min_grid_size, x_grid_size, x_block_size;
int y_min_grid_size, y_grid_size, y_block_size;
cudaOccupancyMax
浏览 0提问于2020-09-20得票数 1
回答已采纳
2回答
在大学项目中使用Cuda GPU编程，想知道如果一个GPU的块大小可能是1024，如果你有2个GPU，这是否意味着块大小翻了一番？这会影响程序的实现吗?你需要单独访问GPU吗？
浏览 8提问于2018-02-21得票数 0
回答已采纳
1回答
目标很简单:使用CUDA绘制块大小对执行时间的影响。人们期望看到的是，对于每个块大小是32的倍数，执行时间是最低的，在这些倍数之后(例如33，65，97,129，...)执行时间应该会增加。然而，这不是我得到的结果。执行时间只会下降，然后趋于平缓。
我在NVIDIA GeForce 940M上运行CUDA runtime 10.0。
我尝试了几种获取执行时间的方法。CUDA文档中推荐的方法如下所示：
cudaEventCreate(&gpu_execution_start);
cudaEventCreate(&gpu_execution_end);
cudaEventR
浏览 42提问于2019-03-26得票数 1
1回答
我需要帮助让我的cuda程序运行得更快。NVIDIA视觉分析器性能差，“计算利用率低1.4%"：
代码在下面。第一次内核准备：
void laskeSyvyydet(int& tiilet0, int& tiilet1, int& tiilet2, int& tiilet3) {
cudaArray *tekstuuriSisaan, *tekstuuriUlos;
//take care of synchronazion
cudaEvent_t cEvent;
cudaEventCreate(&cEvent);
//let
浏览 3提问于2016-06-12得票数 1
回答已采纳
我使用的是CUDA 6.5 + VS2013 + GTX泰坦黑。我观察到，当线程总数大于65536时，下列打印代码将崩溃。我在谷歌上搜索了一下，但没有看到任何有用的东西。还有其他人观察到同样的行为吗？或者有人能提供一些解释吗？非常感谢!
__global__ void testKernel(int val)
{
int X = blockDim.x * blockIdx.x + threadIdx.x;
int Y = blockDim.y * blockIdx.y + threadIdx.y;
printf("[%d, %d]:\t" "\tV
浏览 19提问于2014-08-18得票数 1
回答已采纳
3回答
嗨，我最近有一个CUDA内核来优化。以下是原始的CUDA内核：
__glboal__ void kernel_base( float *data, int x_dim, int y_dim )
{
int ix = blockIdx.x;
int iy = blockIdx.y*blockDim.y + threadIdx.y;
int idx = iy*x_dim + ix;
float tmp = data[idx];
if( ix % 2 )
{
tmp += sqrtf( sinf(tmp) + 1.f );
}
else
{
浏览 6提问于2013-12-17得票数 1
回答已采纳
我有一个cuda和一个cpp实现的相同的算法。在数据自动化系统中，我用事件来衡量时间：
cudaEvent_t start, stop;
float time;
cudaEventCreate(&start);
cudaEventCreate(&stop);
cudaEventRecord(start, 0); // start time measurement
// some cuda stuff
cudaEventRecord(stop, 0); // stop time measurement
cudaEventSynchronize(sto
浏览 0提问于2016-11-14得票数 0
回答已采纳
1回答
当在CUDA和OpenCL上测量同一个内核的性能时，我发现了一件奇怪的事情。
当我没有任何输入参数和计算时，我的内核绝对是空的，与OpenCL相比，CUDA给了我很差的性能。
库达内核：
__global__ void kernel_empty()
{
}
CUDA主机：
kernel_empty<<<dim3(10000, 10000, 1), dim3(8, 8, 1)>>>();
OpenCl内核：
__attribute__((reqd_work_group_size(8, 8, 1)))
__kernel void kernel_empty()
浏览 3提问于2014-05-06得票数 3
回答已采纳
1回答
最近，我在tx2上安装了CUDA10.0和cupy。我在一篇文章中读到，它说cupy比numpy快10倍。所以我运行了这个程序： ### Numpy and CPU
s = time.time()
x_cpu = np.ones((100,100,100))
e = time.time()
print(e - s)
### CuPy and GPU
s = time.time()
x_gpu = cp.ones((100,100,100))
cp.cuda.Stream.null.synchronize()
e = time.time()
print(e - s) 我得到的结果非常不同。Nu
浏览 32提问于2019-12-31得票数 0
我需要计算GPU运行时代码，以及总运行代码(主机和设备)。在我的代码中，我有两个gpu内核在运行，在主机for循环之间复制数据，下面的示例可以显示我的代码是什么样子的。
cuda event start
//FIRST kernel code call <<...>>
// cuda memory copy result back from device to host
CudadeviceSyncronize()
// copy host data to host array (CPU funtion loop)
// cuda memory copy fr
浏览 4提问于2015-05-25得票数 0
背景：
我有一个内核，我用windows (264纳秒刻度率)在4ms测量。但我和一位运行内核的同事发生了一场友好的争论，他声称采用了15ms+ (我们都是在特斯拉K40热身之后才这么做的)。我怀疑他的问题在于定制的RHEL、定制的cuda驱动程序和他的“实时”线程组，但我不是linux专家。我知道窗户的时钟不太完美，但这是一个太大的差异。(除此之外，我写的其他内核的所有时间都与他的时间一致，但时间不一致的只是内核链中的第一个。)我闻到了内核外面的味道。
问题：
无论如何，是否有一种方法可以将CudeDeviceEvents (经过的时间)添加到CUDA内核中，以度量从第一个块开始到最后一个块
浏览 0提问于2015-03-15得票数 1
我是cuda的新手。我正在用cuda编写图像处理代码。我的c和cuda代码如下，我试图转换成cuda，但它不能很好地工作。
我的C代码：
void imageProcess_usingPoints(int point, unsigned short *img)
{
// doing image process here using point variable value.
}
int main(int argc, char **argv)
{
/* here i define and initialize some variable */
int point=0;
浏览 0提问于2013-10-17得票数 0
我有一个用于Matlab的CUDA程序，但是mex版本要比Visual版本慢得多，尽管除了输入/输出参数的简短mexFunction之外，代码是相同的。mex版本需要3秒，而纯C则需要0.5秒。
我使用的是四路K2000M卡，CUDA功能3.0，CUDA驱动程序5.5，运行时5.0，用Visual 2010编程。我通过MATLAB遵循了mexGPUExample.cu的步骤，只将设置更改为-gencode=arch=compute_30、code=\"sm_30、compute_30\“(删除较低的版本标志)。
在细节上，
纯C代码(在Nsight 3.1中为Visual 2010项目
浏览 2提问于2013-08-10得票数 0
1回答
我正在编写一个CUDA程序，它将试图在一个基本图像中定位大约35个子图像或模式。每个子图像(模式)只能存在于基本图像的一个小区域(例如10x10像素窗口)。子图像大小从1000个像素到10000像素不等.基本图像为640x480像素。
我这样做是通过将子图像与基图像的一个子部分进行卷积，如果卷积结果小于阈值，则被认为是匹配的。我必须做大约100个卷积每个子图像(因为我只检查一个10x10窗口的允许位置)。
第一个问题:这是否已经实现，是否可以在开放源码中获得？
第二个问题:哪个是更好的执行战略？
粗粒度:每个CUDA线程在基本图像中对子图像进行完全卷积.每个子图像和位置都有一个CUDA线程
浏览 1提问于2013-08-19得票数 2
1回答
我们都知道GPGPU有几个stream multiprocesssors(SM)，每个stream processors(SP)在谈论其硬件架构时都有很多stream processors(SP)。但是它在NVDIA的block编程模型中引入了另一个概念block和thread。
我们还知道block对应于SM，thread对应于SP，当我们启动CUDA kernel时，我们将内核配置为kernel<<<blockNum, threadsNum>>>。我已经写了近两个月的CUDA程序。但我还有很多问题。一个好的程序员不会仅仅满足于无缺陷的程序，他们想深入研究
浏览 1提问于2013-12-25得票数 4
3回答
我正试图在以下三个维度中启动openCL：
size_t globalWorkSize[3] = {32, 3, 3};
size_t localWorkSize[2] = {32, 32};
err = clEnqueueNDRangeKernel(queue, kernel, 1, NULL, globalWorkSize, localWorkSize,
0, NULL, NULL);
但是只有32个线程被启动。
还有什么方法可以找到Cuda n openCL线
浏览 0提问于2019-04-05得票数 1
回答已采纳
我经历过这个。从这里我得到了使用cudamallocHost的固定内存比cudamalloc提供了更好的性能。然后，我使用了两个不同的简单程序，并测试了执行时间如下
使用 cudaMallocHost
#include <stdio.h>
#include <cuda.h>
// Kernel that executes on the CUDA device
__global__ void square_array(float *a, int N)
{
int idx = blockIdx.x * blockDim.x + threadIdx.x;
if (i
浏览 1提问于2014-04-17得票数 9
我使用两个内核，让我们称它们为A，一个B。
我运行CUDA分析器，结果如下所示：
第一个内核有44%的开销，而第二个内核有20%的开销。
但是，如果我决定通过以下逻辑找出实际的执行时间：
timeval tim;
gettimeofday(&tim, NULL);
double before = tim.tv_sec+(tim.tv_usec/1000000.0);
runKernel<<<...>>>(...)
gettimeofday(&tim, NULL);
double after=tim.tv_sec+(tim.tv_
浏览 2提问于2013-05-15得票数 0
回答已采纳
在使用我自己的CUDA函数之后，我正在尝试调用一个CUDA：：reduce函数。下面是问题： 如果我在我的CUDA函数之前使用just：：reduce(只是为了测试)，一切都很好，没有错误，没有抛出。 但是，如果在运行我的CUDA函数后调用CUDA：：reduce，则会弹出一条消息： cudaErrorLaunchOutOfResources(7):
[.../dispatch_reduce.cuh, 454]: too many resources requested for launch
[.../dispatch_reduce.cuh, 646]: too many resource
浏览 63提问于2020-04-13得票数 0
1回答
我尝试使用以下代码测试多gpus的性能：
test__multi.py
import time
import numpy as np
from numpy.random import random
import theano
import theano.tensor as T
from theano import shared
from theano import function
a = time.time()
v_00 = shared(
value=random((10240, 10240)).astype(theano.config.floatX, copy=Fa
浏览 3提问于2016-03-25得票数 2
1回答
我正在我的Ubuntu 10.10 64位系统上调试我的基于CUDA 4.0/推力的图像重建代码，我一直在尝试找出如何调试这个运行时错误，其中我的输出图像显示为一些随机的“噪声”。在我的代码中没有随机数生成器输出，所以我希望每次运行的输出都是一致的，即使它是错误的。然而，它不是..。
我想知道是否有人有调试CUDA运行时错误的通用程序。我没有在我的cuda内核中使用任何共享内存。我已经尽力避免了任何涉及全局内存的竞争条件，但我可能遗漏了一些东西。
我尝试过使用图形处理器，但它无法识别我的一些CUDA和CUSPARSE函数调用。
而且，我的代码一般都能正常工作。只是当我改变这一个设置时，我得到了
浏览 0提问于2011-07-21得票数 4
回答已采纳
我在Matlab的mex文件中编写CUDA。当你查看互联网上的CUDA示例甚至是nvidia的手册时，你经常会看到使用预处理变量来指定问题大小，例如向量加法的向量长度或类似的东西。我还像这样编写了我的程序:用于指定问题大小的预处理变量。我必须承认这一点:我喜欢它，因为你可以在代码中的任何地方访问它们，例如作为循环中的限制或类似的东西，而不必通过参数显式地将它们传递给函数。
但我遇到了以下问题:我想针对几种不同的问题大小测试程序，因此每次都需要通过将preprocessing-变量传递给编译器来再次编译代码。这不是问题，我已经编写了基准测试程序，它可以正常工作。但现在我只是想知道，为什么我选择了
浏览 3提问于2011-07-07得票数 1
回答已采纳
2回答
cuda将.png转换为灰度
、、、、
我正在用C写应用程序，它可以将.png图像转换成灰度。我用的是C和cuda。我对cuda代码有问题，我不知道为什么。(我是库达乞丐)
我的转换函数看起来：
__global__
void setPixelToGrayscale(unsigned char *image)
{
int i = threadIdx.x*4;
float gray;
float r, g, b;
r = image[i + 0];
g = image[i + 1];
b = image[i + 2];
gray = .299f*r + .587f*g + .11
浏览 8提问于2014-05-03得票数 0
回答已采纳
我正在分析一个内核，它在一个GTX480中每个线程使用25个寄存器，每个块使用3568字节的共享内存。内核配置为启动16x16线程，线程缓存首选项设置为共享。
根据GTX480的规范，该设备的每个SM有32768个寄存器，因此可以同时运行25 regs x 256 threads per block x 6 blocks per SM模块。
但是，Compute Visual Profiler和Cuda占用计算器报告称，每个SM只有4个数据块处于活动状态。我想知道为什么只有4个区块是活动的，而不是我预期的5个。
我发现的原因是CUDA将使用的寄存器数四舍五入为26，在这种情况下，活动块的数量为
浏览 1提问于2012-10-24得票数 2
回答已采纳
我以前曾在这个Win 10 64位家庭系统(针对1080 to卡)上运行过CUDA 9.x，但是需要更新到CUDA 10.0，用于TensorFlow 2。我最初以为TF2可以使用CUDA 10.1，所以第一次安装了10.1，后来才发现它必须是CUDA 10。
不能让它起作用..。
为了测试TF，我运行了这个程序来验证安装(通过Anaconda -新建的TF2环境)
import tensforflow as tf
print(tf.reduce_sum(tf.random.normal([1000, 1000])))
我在基本Python测试中得到了这个错误
InternalError:
浏览 17提问于2019-10-04得票数 4
我上了一个CUDA并行编程课程，我看到了许多CUDA线程配置的例子，在这种情况下，将所需的线程数集合到最接近32的倍数是很常见的。我知道线程被分组为翘曲，如果您启动1000个线程，GPU会将其循环到1024个，那么为什么要显式地这样做呢？
浏览 1提问于2014-10-28得票数 7
回答已采纳
3回答
我很难让一些代码运行来探索共享内存特性，以获得一个快速的矩阵乘法。但每次我试着这样做，我似乎都会遇到一些我无法理解的错误。
import numpy as np
from numba import cuda, types
m = 128
n = 32
a = np.arange(m*n).reshape(m,n).astype(np.int32)
b = np.arange(m*n).reshape(n,m).astype(np.int32)
c = np.zeros((m, n)).astype(np.int32)
d_a = cuda.to_device(a)
d_b = cuda.to
浏览 8提问于2020-03-30得票数 1
回答已采纳
1回答
我正在努力学习CUDA，并使用PyCUDA编写一个简单的矩阵乘法代码。对于两个随机生成的4x4矩阵，我得到以下解决方案：
Cuda:
[[ -5170.86181641 -21146.49609375 20690.02929688 -35413.9296875 ]
[-18998.5 -3199.53271484 13364.62890625 7141.36816406]
[ 31197.43164062 21095.02734375 1750.64453125 11304.63574219]
[ -896.64978027 18424.3300781
浏览 0提问于2014-01-15得票数 3
回答已采纳
1回答
我已经用cuda编写了一个应用程序，它在每个块中使用1kb的共享内存。因为在每个SM中只有16kb的共享内存，所以总共只能容纳16个块(我理解正确了吗?)，虽然一次只能调度8个块，但是现在如果某个块忙于进行内存操作，那么其他块将在gpu上调度，但所有的共享内存都被其他16个已经在那里调度的块使用，所以除非之前分配的块完全完成，否则cuda不会在同一个sm上调度更多的块吗？或者它会将一些块的共享内存移动到全局内存，并在那里分配其他块(在这种情况下，我们是否应该担心全局内存访问延迟?)
浏览 1提问于2011-04-10得票数 5
回答已采纳
如果我使用相同的输入运行同一个内核几次，如下所示
#define N 2000
for(int i = 0; i < 2000; i++) {
mykernel<<<1,120>>>(...);
}
会发生什么？我给它计时，玩N：把N减半(到1000)，把花的时间减半。
然而，我认为它只是运行了2000次内核，这是有点谨慎的，因为从非CUDA代码到非CUDA代码的速度是如此惊人(~900秒~0.9秒)。那么，在这种情况下，CUDA会做什么样的优化呢？缓存结果？
设置CUDA_LAUNCH_BLOCKING=1并没有改变什么。
mykernel取
浏览 4提问于2011-05-11得票数 0
1回答
在使用一个简单的函数来处理memset CUDA数组的同时，我得到了大型数组的invalid argument (大约> pow(2,25))。
我在特斯拉k40上跑。我应该有足够的内存(到目前为止)来分配数组，也应该有足够的容量来抛出我的块数量，但是下面的代码退出时会出错：
#include "cuda_runtime.h"
#include "device_launch_parameters.h"
#include <stdio.h>
#include <stdlib.h>
#include <math.h>
浏览 5提问于2016-02-01得票数 0
回答已采纳
我对cuda非常陌生，几周前才开始阅读关于并行编程和cuda的文章。在安装了cuda工具包之后，我浏览了sdk示例(随工具包的安装一起提供)，并希望尝试其中的一些。我从0_Simple文件夹中的matrixMul开始。这个程序运行良好(我使用的是Visual Studio2010)。现在，我想更改矩阵的大小，并尝试使用更大的矩阵(例如960X960或1024x1024)。在这种情况下，一些东西崩溃(我得到黑屏，然后消息:显示驱动程序停止响应并已恢复)。
我更改了代码中的这两行(从main函数)：
dim3 dimsA(8*4*block_size, 8*4*block_size, 1)
浏览 2提问于2012-12-11得票数 2
回答已采纳
1回答
我怀疑我在运行的大型CUDA内核中存在细粒度内存错误。设备端printf显示了一些变量的可变值，这些值应该是确定性的。我使用的CUDA开发工具的“稳定”版本去掉了设备仿真模式，它的cuda-gdb版本不能使用模板化函数。Cuda-memcheck运行，但没有捕获任何内容。
在cpu上，我会使用valgrind或电栅栏来捕获这样的内存错误。如果只有printf可用，那么有哪些调试内存错误的小窍门呢？
例如，有没有一种方法可以用nans淹没整个内存空间，并使用printfs来查找它们在我的计算中首次出现的位置？
浏览 0提问于2011-05-15得票数 1
回答已采纳
2回答
#include<stdio.h>
#include<cuda_runtime.h>
#include<sys/time.h>
#define gpuErrchk(ans) { gpuAssert((ans), __FILE__, __LINE__); }
inline void gpuAssert(cudaError_t code, const char *file, int line, bool abort=true)
{
if (code != cudaSuccess)
{
fprintf(stderr,"GPUas
浏览 10提问于2015-09-17得票数 0
回答已采纳
1回答
PyCUDA核函数
、、、、
我是PyCUDA的新手，在PyCUDA网站上浏览了一些例子。我正试图找出某些代码行背后的逻辑，如果有人解释其背后的想法，我将非常感激。
下面的代码片段来自PyCUDA网站。在函数定义中，我不明白
int idx = threadIdx.x + threadIdx.y*4;
如何使用上面的行计算数组的索引。为什么会将线程Idx.x和线程Idx.y相加在一起，以及为什么线程Idx.y乘以4。
对于对GPU的函数调用，为什么将块定义为5,5,1。因为它是一个由5x5元素组成的数组，所以在我的理解中，块大小应该是5,5，而不是5,5,1。
import pycuda.driver as cuda
im
浏览 2提问于2017-04-29得票数 3
2回答
我刚刚在CUDA中学习了流技术，并且我尝试过它。然而，不想要的结果返回，即流不平行。(在图形处理器特斯拉M6上，操作系统为Red Hat Enterprise Linux8) 我有一个大小为(5,2048)的数据矩阵，以及一个处理该矩阵的内核。 我的计划是分解“nStreams=4”扇区中的数据，并使用4个流来并行内核执行。 我的部分代码如下所示： int rows = 5;
int cols = 2048;
int blockSize = 32;
int gridSize = (rows*cols) / blockSize;
dim3 block(blockSize);
dim3 gri
浏览 28提问于2019-04-29得票数 1
回答已采纳
1回答
我需要比较将在Postgres数据库中运行的两个查询。
我如何知道它们的执行时间和其他统计数据，以便在它们之间生成一个可靠的基准？
浏览 0提问于2019-05-21得票数 3
回答已采纳
2回答
是否有可以在CUDA代码中设置的命令/函数/变量来限制GPU使用百分比？我想修改一个名为Flam4CUDA的开源项目，以便该选项存在。他们现在的做法是，它使用了尽可能多的GPU，其效果是温度飙升(显然)。为了在长时间的计算中保持低温度，我希望能够告诉程序使用，比如说，每个GPU的50% (或者甚至对不同的GPU有不同的百分比，或者也可以选择使用哪个(S)GPU)。有什么想法吗？
如果你想看代码，可以通过"svn co flam4“找到。
浏览 2提问于2011-06-10得票数 4
AFAIK，使用Pytorch进行分布式训练(多模式)的最简单方法如下：
sampler = torch.utils.data.distributed.DistributedSampler(train_data)
data_loader = torch.utils.data.DataLoader(dataset, sampler=sampler)
model = torch.nn.DataParallel(model).cuda()
for data, target in data_loader:
out = model(data)
...
但是，如果我手头已经有一个很大的张
浏览 1提问于2019-11-10得票数 1
我假设，可以并行运行的线程/块的数量是有限的。我的意思是，如果我有太多的线程/块，它们中的一些将在一些处理单元上顺序执行。我需要构建下一个示例。假设我有一些kernel<<<B, N>>>()。kernel<<<1,1>>>()的执行时间等于t0。
第一个任务是找出B和N的最大值，即kernel<<<B, N>>>() t~ t0的执行时间。然后我想知道kernel<<<B, 2*N>>>() (或kernel<<<2*B, N>
浏览 1提问于2012-10-06得票数 1
回答已采纳
1回答
加速计算
、、
我有一个用C和CUDA编写的模拟应用程序。为了测量加速比，我记录了两种情况下的时间。在CUDA中，我使用CUDA事件来测量时间，然后将GPU的时间除以CPU (通常是这样做的)。加速的图像如下所示。
关于加速图的奇怪之处在于，加速比首先增加到55倍，然后减少到35倍，然后随着线程总数的增加而再次增加。我不确定为什么会发生这种情况，以及我如何能够弄清楚这种输出背后的原因。我使用的是448核的GTX 560ti GPU卡。每个块的线程数量是1024 (最大数量)，因此每个SM一次一个块。这是因为占用率问题而发生的吗?我如何才能确定这种加速图背后的原因？
浏览 1提问于2013-04-12得票数 4
回答已采纳
我想要确定对于1 <= x <= 10^7，有多少x^2+1形式的数字是质数。我只是想将其与CUDA并行化并检查差异，所以我使用了平凡的素性检查，我并不关心改进它的算法。
我安排了一个网格，并在我的时间间隔内对其进行滑移，将结果记录在每个块的共享内存中，在每个块上执行gpu缩减，最后执行cpu缩减以获得最终结果。
我的问题是，当我更改块的数量和每个块中的线程数时，输出结果会发生变化。我不能解释的另一件事是，对于8个块和每个块2048个线程的配置，代码在100ms内运行，但当我将线程数量减少到1024并将块数量增加一倍时，代码将导致memcpy从设备到主机的超时！我该如何解释这种行为
浏览 0提问于2013-07-09得票数 0
回答已采纳
1回答
我试图比较一个简单的加法任务与CPU和GPU，但我得到的结果是如此奇怪。
首先，让我解释一下我是如何运行GPU任务的。
现在让我们深入研究代码--这是我的代码--简单地说
package gpu;
import com.aparapi.Kernel;
import com.aparapi.Range;
public class Try {
public static void main(String[] args) {
final int size = 512;
final float[] a = new float[size];
浏览 31提问于2022-07-29得票数 1
4回答
CUDA核心、流多处理器与块和线程的CUDA模型之间有什么关系？
什么被映射到什么，什么是并行化，以及如何被并行化？还有什么更有效，最大限度地增加块的数量或线程的数量？
我目前的理解是，每个多处理器有8个cuda核。而且每个库达核心将能够一次执行一个库达块。该块中的所有线程都在该特定内核中串行执行。
这是正确的吗？
浏览 6提问于2010-08-19得票数 96
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
实时音视频
云直播
对象存储活动推荐
腾讯云开发者
