Cuda C++：设备上的Malloc类，并用来自主机的数据填充它
Cuda C++是一种并行计算平台和编程模型，用于利用GPU进行高性能计算。它提供了一套扩展的C++语言，使开发人员能够在GPU上编写并行程序。
在Cuda C++中，设备上的Malloc类是用来在GPU设备上分配内存的类。它类似于C语言中的malloc函数，但是在GPU上进行内存分配。通过使用Malloc类，开发人员可以在GPU上创建和管理内存，以便在并行计算中使用。
Malloc类的主要功能包括：
- 内存分配：Malloc类可以在GPU设备上分配指定大小的内存块。开发人员可以根据需要动态分配内存，以满足并行计算的要求。
- 数据填充：开发人员可以使用Malloc类将来自主机的数据填充到在GPU上分配的内存块中。这样，GPU可以直接访问主机数据，而无需通过主机-设备之间的数据传输。
- 内存管理：Malloc类提供了一些方法来管理GPU上的内存。开发人员可以使用这些方法来释放已分配的内存、查询内存使用情况等。
Cuda C++的优势在于其并行计算能力和高性能。通过利用GPU的并行处理能力，Cuda C++可以加速各种计算密集型任务，如科学计算、图像处理、机器学习等。它还提供了丰富的库和工具，使开发人员能够更轻松地编写并行程序。
Cuda C++的应用场景包括但不限于：
- 科学计算：Cuda C++可以用于加速科学计算任务，如数值模拟、数据分析、物理模型等。
- 图像处理：Cuda C++可以用于加速图像处理任务，如图像滤波、图像识别、图像重建等。
- 机器学习：Cuda C++可以用于加速机器学习算法，如神经网络训练、深度学习模型推理等。
- 多媒体处理：Cuda C++可以用于加速多媒体处理任务，如视频编码、音频处理、图形渲染等。
腾讯云提供了一系列与GPU计算相关的产品和服务，可以满足Cuda C++的需求。其中，推荐的产品是腾讯云的GPU云服务器（https://cloud.tencent.com/product/cvm/gpu）和GPU容器服务（https://cloud.tencent.com/product/tke/gpu）。
GPU云服务器提供了高性能的GPU实例，可以满足Cuda C++的计算需求。GPU容器服务则提供了基于容器的GPU计算环境，方便开发人员在云端部署和管理Cuda C++应用程序。
总结：Cuda C++是一种用于在GPU上进行高性能计算的并行计算平台和编程模型。设备上的Malloc类是Cuda C++中用来在GPU设备上分配内存的类，可以进行内存分配、数据填充和内存管理。Cuda C++的优势在于其并行计算能力和高性能，适用于科学计算、图像处理、机器学习等领域。腾讯云提供了与GPU计算相关的产品和服务，如GPU云服务器和GPU容器服务，可以满足Cuda C++的需求。
相关·内容
1回答
CUDA编程指南指出“通过malloc()分配的内存可以使用运行时复制(即，通过从设备内存调用任何复制内存函数)”，但不知何故，我在重现此功能时遇到了麻烦。代码：
#include <cstdio>
__device__ int* p;
__global__ void allocate_p() {
p = (int*) malloc(10);
printf("p = %p (seen by GPU)\n", p);
}
int main() {
cudaError_t err;
int* localp = (int*) malloc(10);
浏览 1提问于2012-09-03得票数 3
回答已采纳
我需要在存储在我的设备上的长数组中找到最大元素。我想我可以用thrust::max_element来做到这一点。我在下面代码的while循环中调用thrust::max_element。我只为它提供两个设备指针(请注意，real只是浮点数的typedef )。我不能只传递thrust::max_element设备指针。它是否试图在主机上找到max元素？我之所以问这个问题，是因为我的代码在那之后出现了seg错误。
int main()
{
cuda_error(cudaSetDevice(1), "set device");
const size_t DIM =
浏览 3提问于2016-01-29得票数 0
回答已采纳
我正在尝试将我的c++项目转换为在GPU上运行的cuda代码。
我对cuda编程很陌生，我不知道该如何处理这种情况：
如果我有一个非常复杂的类定义，现在我想将一个类实例传递给设备并在设备上执行它的一些成员函数，那么我应该重写我的整个.cpp文件。我是否只需要将那些在设备上运行的函数转到__host__ __device__，还是应该重写所有函数？
我认为nvcc将没有函数类型限定符的函数视为__host__。它如何编译主机代码？它是否与g++一样编译它们？
浏览 5提问于2017-08-27得票数 1
回答已采纳
我是CUDA的新手。我想在主机代码(C++)和设备内核代码(CUDA代码)中设置断点，但我只成功地停止了对主机代码或设备代码的调试(但不能同时在它们的上进行)。
我使用的是VS2010 (win7)和Cuda 4.2和Nsight 2.2。我做错什么了？
浏览 1提问于2013-03-04得票数 1
回答已采纳
如果我从主机内存调用cudaMemcpy到主机内存，它会首先同步设备吗？cuda调用和普通的C++函数memcpy有什么区别吗？我知道，如果我想在主机之间执行memcpy 2D到主机，我必须使用cuda调用，因为在C++中没有这样的函数。还有其他的吗？
浏览 2提问于2014-03-15得票数 3
回答已采纳
在CUDA中，是否有任何方法可以知道指针是否指向设备或主机的内存中。
made op的一个例子可能是：
int *dev_c, *host_c;
cudaMalloc( (void**)&dev_c, sizeof(int) );
host_c = (int*) malloc(sizeof(int));
当然，我可以查看名称，但是否有任何方法可以查看指针dev_c和host_c，然后说，host_c指向主机，dev_c指向设备。
浏览 3提问于2013-02-15得票数 10
1回答
我最近在将设备中动态分配的数据复制到主机内存时遇到了一个问题。数据是使用malloc分配的，我在host函数中将这些数据从设备复制到主机。代码如下：
#include <cuda.h>
#include <stdio.h>
#define N 100
__device__ int* d_array;
__global__ void allocDeviceMemory()
{
d_array = new int[N];
for(int i=0; i < N; i++)
d_array[i] = 123;
}
int main()
{
all
浏览 0提问于2012-06-26得票数 1
回答已采纳
1回答
根据NVIDIAs编程指南：
CUDA应用程序的源文件由传统的C++主机代码和GPU设备功能混合而成。CUDA编译轨迹将设备功能与主机代码分离，使用专有的NVIDIA编译器和汇编程序编译设备功能，使用可用的C++主机编译器编译主机代码，然后将编译后的GPU函数作为加脂二进制图像嵌入主机对象文件中。在链接阶段，添加了特定的CUDA运行库，以支持远程SPMD过程调用和提供显式GPU操作，如GPU内存缓冲区的分配和主机-GPU数据传输。
使用专有的NVIDIA编译器和汇编程序意味着什么？
，什么是PTX和cubin文件？这些都是在哪一步进行的呢？
我已经搜索了很多关于这个概念的内容，但是，我想简单
浏览 14提问于2022-02-02得票数 0
1回答
目标/问题
在Python中，我正在寻找一种从内存映射文件读取/写入数据到GPU的快速方法。
在先前的溢出帖子[ ]中
在提到的地方，这是可能的，使用CUDA固定的“零拷贝”内存。此外，这个方法似乎是由这个人[ ]开发的，尽管此人是在C++工作的。
我之前的尝试都是针对Cupy的，但我对任何cuda方法都持开放态度。
到目前为止我尝试过的
我提到了我如何尝试使用Cupy，它允许您在memmory映射模式下打开numpy文件。
import os
import numpy as np
import cupy
#Create .npy files.
for i in range(4):
浏览 0提问于2019-09-02得票数 5
回答已采纳
1回答
我正在尝试将一些CPU代码移植到CUDA中。我的CUDA卡基于Fermi架构，因此我可以使用设备中的malloc()函数动态分配内存，而不需要大量更改原始代码。(在我的代码中，malloc()函数被多次调用。)我的问题是这个malloc函数是否足够有效，或者如果可能，我们应该避免使用它。我在CUDA上运行我的代码没有获得太多的加速，我怀疑这是由使用malloc()函数引起的。
如果您有任何建议或意见，请告诉我。我很感谢你的帮助。
浏览 0提问于2011-09-20得票数 4
回答已采纳
我有一个包含主机函数和设备函数执行()的CUDA程序。在主机函数中，我分配一个全局内存输出，然后将其传递给设备函数，并用于存储在设备函数中分配的全局内存的地址。我想访问主机函数中内核中分配的内存。以下是守则：
#include <stdio.h>
typedef struct
{
int * p;
int num;
} Structure_A;
__global__ void Execute(Structure_A *output)
浏览 5提问于2012-10-24得票数 1
回答已采纳
抱歉，如果这是显而易见的，但是我现在正在学习c++和Cuda，我想知道这是否可能，这样我就可以更多地关注相关的部分了。
基本上，我的问题是高度并行的，实际上我目前正在多台服务器上运行它。我的程序获得一个工作项(非常小的列表)并对其运行一个循环，并做出以下三个决定之一：
保存数据(保存数据)，丢弃数据(不对其做任何操作)，进一步处理数据(它不确定该做什么，它修改数据并将其重新发送到队列以处理.)。
这曾经是一个递归，但我使每个部分都是独立的，虽然我被一个cpu绑定的时间更长了，但是它的负面影响是有大量的消息来回传递。我知道CUDA是如何工作的，以及如何将工作提交给它，但是CUDA是否有可能管理设
浏览 3提问于2012-05-06得票数 1
回答已采纳
1回答
我使用标准CUDA malloc在CUDA中分配了一个内存数组，并将其传递给如下函数：
void MyClass::run(uchar4 * input_data)
我还有一个类成员，它是一个推力device_ptr，声明为：
thrust::device_ptr<uchar4> data = thrust::device_malloc<uchar4(num_pts);
这里，num_pts是数组中的值数，input_data指针保证是num_pts long。
现在，我想将输入数组复制到thrust_device_ptr中。我看过推力文档，其中很多是关于从设备复制到主机内存
浏览 1提问于2015-04-14得票数 5
回答已采纳
我直接访问cuda内核中的主机mem，没有发现错误，这是为什么？
我试着从那里变得更聪明。
分配主机内存的大小字节，该内存是页面锁定的，并可由设备访问。驱动程序跟踪此函数分配的虚拟内存范围，并自动加速对cudaMemcpy*()等函数的调用。，因为该内存可以由设备直接访问，因此它可以以比使用malloc()等函数获得的可分页内存更高的带宽进行读写。
为什么许多cuda程序会在cudaMemcpy之后添加cudaMallocHost？
#include <stdio.h>
#include <assert.h>
#define N 64
// cuda ker
浏览 6提问于2021-09-05得票数 3
回答已采纳
2回答
从主机函数释放设备分配的内存是否有效？我正在编写一些应该在主机和设备上使用的C++类。我的构造函数和析构函数类似于：
class myClass {
public:
__host__ __device__ myClass() {
#if defined(__CUDA_ARCH__)
data = (char*)malloc(DATA_SIZE);
#else
cudaMalloc(&data,DATA_SIZE);
#endif
}
__host__ __device__ ~myClass() {
#if defined(__CUDA_ARCH__)
free(data)
浏览 1提问于2012-09-30得票数 2
回答已采纳
1回答
我在LINUX盒子里放了一台Nvidia的特斯拉K80。我知道特斯拉K80内部有两个GPU。当我在那台机器上运行OpenCL程序，遍历所有设备时，我看到了四个设备(4个特斯拉K80s)。你知道为什么会发生这种事吗？
下面是主机代码：
ret = clGetPlatformIDs(0, NULL, &platformCount); openclCheck(ret);
platforms = (cl_platform_id*) malloc(sizeof(cl_platform_id) * platformCount);
ret = clGetPlatformIDs(platformC
浏览 5提问于2016-04-14得票数 1
在CUDA程序中定义设备常量的最佳方法是什么？在C++、主机/设备程序中，如果我想在设备常量内存中定义常量，我可以这样做
__device__ __constant__ float a = 5;
__constant__ float a = 5;
问题1.关于装置2.x和CUDA 4，是否与，
__device__ const float a = 5;
问题2.为什么在PyCUDA SourceModule(“.”)中只编译设备代码，甚至包括以下工作？
const float a = 5;
浏览 1提问于2011-11-01得票数 4
2回答
我正在尝试用CUDA来增强一个小的C++项目。我的项目使用了一个定制库的类和函数，例如Matrix3d, Vector3d, Plane2d等，它们大多是几何对象。
当我尝试在设备(无论是__host__ __device__函数还是内核)中使用我的代码时，所有的库函数/对象都被视为主机代码，并且我得到了多个警告和错误，例如error: identifier "Plane3d::~Plane3d" is undefined in device code
有没有办法在设备上也使用我的库？它是如何做到的？我没有使用CUDA和C++的经验(我只在简单的C代码中使用CUDA，没有使用类
浏览 2提问于2012-12-04得票数 3
回答已采纳
所有程序员。我正在将现有的C++项目转换为CUDA增强程序。我是CUDA的新手。所以我在工作中学习。我必须将内存分配给一个动态结构成员变量，而结构变量被分配为设备变量。
如下所示：
_cuda_params* dcuda_params;
cudaMalloc(&dcuda_params, sizeof(_cuda_params));
cudaMemcpy((void *)dcuda_params, (void*)cuda_params, sizeof(_cuda_params), cudaMemcpyHostToDevice);
dcuda_params->DPht = (
浏览 2提问于2019-10-24得票数 0
编辑:我可能找到了一种更好的方法，使用CUDAMalloc()；我想这是一个糟糕的问题，但是我将尝试Malloc，如果这看起来更符合逻辑，那么我将结束这个问题。
所以我可以用CUDA C/C++写一点，但是我在看CUDAMemcpy语法，我看到它拷贝到指定的设备上。但是为什么我要在函数调用中在主机上指定两块内存，比如在这个写得不好的示例中(我知道它没有包含值.)，其中我告诉它将h_ array 1/h_array 2复制到相应的设备数组中。为什么有必要在主机内存中创建d_Array？
以下是代码：
#include <cuda.h>
#include <iostream>
浏览 4提问于2014-03-15得票数 0
回答已采纳
我了解到std::vector是C++中原始数组的一个很好的包装器，所以我开始在我的CUDA应用程序1中使用它来管理主机数据。由于必须手动分配和复制东西，所以我考虑扩展std::vector。因为我不是很有经验，所以我想知道你是怎么想的。特别是它是否正确完成(例如std::vector的析构函数是隐式调用的，对吗？)如果你认为这是个好主意。
我写了一个小例子来说明这一点。
#include <vector>
#include <cuda.h>
#include <cstdio>
void checkCUDAError(const char *msg)
{
浏览 3提问于2011-05-25得票数 1
回答已采纳
1回答
在cuda编程指南中，提到了以下操作将导致隐式同步：
页锁定的主机内存分配。
我想知道这是否包括cudaHostRegister和cudaHostUnregister？如果没有，这将意味着我们可以在所有异步操作之前调用malloc，然后在异步部分我们可以执行cudaHostRegister。是这样的吗？
对默认流的任何CUDA命令
这包括使用cudaEvent进行的任何操作，例如在流0上记录事件，还是让流0在其他流中等待一些事件？
顺便问一下，隐式同步是发生在一个设备内，还是会在所有设备上进行同步？
浏览 1提问于2015-02-25得票数 2
我想要覆盖低级别的CUDA设备内存分配程序(作为thrust：：system：：cuda：：malloc()实现)，以便在主机(CPU)线程上调用时，它使用自定义分配程序而不是直接调用cudaMalloc()。
这个是可能的吗？如果是这样的话，是否可以使用“执行策略”机制来执行呢？我试过这样的模型：
struct eptCGA : thrust::system::cuda::detail::execution_policy<eptCGA>
{
};
/// overload the Thrust malloc() template function implementation
浏览 0提问于2016-04-28得票数 2
回答已采纳
1回答
根据第122页，只要我们使用计算架构2.x，就可以在设备/全局函数中动态分配内存。
我的问题是，当我尝试这样做时，我会得到命令行消息：
命令“-gencode=arch=compute_10”、code=\"sm_10“、compute_10\”-gencode=arch=compute_20“、code=\"sm_20”、“compute_20\”等。
然后是一个错误，即不能从设备/全局函数调用主机函数(malloc)。
上面的消息显示它试图在Comput1.x下编译。我正在使用VS2010，并在"CUDA /C++“属性页中将”代码生成“设置为"co
浏览 3提问于2011-08-04得票数 3
回答已采纳
2回答
我只想把设备函数作为主机函数的参数传递，当然，主机函数可以用这个设备侧函数启动一些内核。
我尝试了通常的C++方式(通过指针/引用传递)，而CUDA调试器告诉我内核不能启动。
更新：
我想做的是：
__host__ void hostfunction(int a, int (*DeviceFunction)(int))
{
/...do something.../
somekernel<<<blocks, threads>>>(int * in, DeviceFunction);
}
并启动主机：
hostfunction(x, &Som
浏览 2提问于2013-08-28得票数 0
我想设计一个代码，其中相同的设备内存应该从多个cuda文件中的内核访问。下面给出了一个简单的例子，其中main.c调用了3个.cu文件: cuda_malloc.cu，cuda_print.cu和cuda_free.cu。
C文件:声明一个指针"d_array“
main()
{
int maxpar = 10;
float* d_array;
cuda_malloc(maxpar, d_array);
cuda_print(maxpar,d_array);
cuda_free(d_array);
}
cuda_malloc.cu文件:为d_array分配设备内存并将值设置为零
浏览 0提问于2013-03-14得票数 0
回答已采纳
1回答
我在一些CUDA代码中有一个可重用的函数，需要从设备和主机调用它。对此是否有合适的限定符？
例如，本例中func1的正确定义是什么：
int func1 (int a, int b) {
return a+b;
}
__global__ devicecode (float *A) {
int i = blockDim.x * blockIdx.x + threadIdx.x;
A[i] = func1(i,i);
}
void main() {
// Normal cuda memory set-up
// Call func1 from insi
浏览 1提问于2011-01-18得票数 8
回答已采纳
在深入研究CUDA编程之前，我需要熟悉一下自己。NVIDIA CUDA编程指南在版本10.1和10.2之间做了明显的更改，从引用"CUDA“到"CUDA C++”。由于这只是一个小的版本更改，我怀疑这只是语义上的。我比较了10.1之前和10.2之后的示例代码，发现没有difference...though，这并不意味着没有区别。这些版本之间是否存在更微妙的编程范式转换？ 这里是我的怀疑: CUDA一直是C++的扩展，而不是C，但每个人都把它称为CUDA，因为我们在编写CUDA代码时没有利用C++提供的OOP。这是一个公平的评估吗？
浏览 138提问于2021-09-02得票数 0
回答已采纳
我正在尝试创建一个新的tensorflow GPU op，遵循他们上的说明。
看看他们的例子，他们似乎直接将一个C++指针输入到CUDA内核，而不需要分配设备内存并将主机指针的内容复制到设备指针。
根据我对CUDA的理解，您总是必须在设备上分配内存，然后在内核中使用设备指针。
我遗漏了什么？我检查了input_tensor.flat<T>().data()应该返回一个常规的C++指针。下面是我指的代码的副本：
// kernel_example.cu.cc
#ifdef GOOGLE_CUDA
#define EIGEN_USE_GPU
#include "example.
浏览 1提问于2018-01-26得票数 0
回答已采纳
1回答
我的项目只有扩展名为*.cpp或*.h的源文件。但它们中的一些调用cuda主机函数并使用cublas库。使用enable_language(CUDA)后，cmake可以在配置阶段找到nvcc：
-- The CUDA compiler identification is NVIDIA 8.0.61
-- Check for working CUDA compiler: /gpfs/share/software/cuda/cuda-8.0/bin/nvcc
-- Check for working CUDA compiler: /gpfs/share/software/cuda/cuda-8.0
浏览 0提问于2018-11-14得票数 0
1回答
CUDA项目结构
、、
CUDA SDK (版本3.1)中的模板和cppIntegration示例使用Externs将主机代码中的函数调用链接到设备代码。
然而，Tom的注释表明extern的用法已被弃用。
如果是这样的话，像模板示例或cppIntegration示例这样的CUDA项目的正确结构是什么？
浏览 1提问于2010-09-23得票数 2
回答已采纳
1回答
对于简单化，假设我有这样的结构：
someheader.h
typedef struct
{
float x
}someStruct;
在Cuda中，如果结构是由C++应用程序共享的，那么设备函数将如何访问该结构的成员？
例如：
__global__ void stuff( someStruct *g ) {
g[0].x = 0.4f;
}
这样做对吗？它似乎不起作用。
浏览 2提问于2011-02-27得票数 0
我仔细阅读了这些文档，但仍然感到困惑，因为不同的CUDA版本有大量的信息。
是整个设备上只有一个默认流，还是主机CPU上每个进程只有一个默认流？如果答案取决于CUDA的版本，您是否也可以列出不同的CUDA版本的情况？
浏览 1提问于2019-08-26得票数 4
回答已采纳
Q1:是否可以将指向设备内存的指针从cuda.lvlib:Copy 1D阵列获取到CUDA (SGL).vi？我想把这个指针传递给我的DLL。
Q2: DLL应返回指向存储结果的设备内存的指针。是否可以使用cuda.lvlib:Copy CUDA Memory to 1D Array (SGL).vi将结果复制回主机？
谢谢。
浏览 1提问于2012-04-18得票数 1
1回答
我在CUDA设备上找到了一个结构，它包含指向数组的指针。计算，访问元素和一切都很好，但是当我试着做一个好孩子，然后打电话
cudaFree(my_struct->pointer_to_array)
我有个分割错误。然而，cudaFree(my_struct)的工作非常好。我遗漏了什么吗？
请找出以下最起码的例子：
#include <stdio.h>
#include <cuda.h>
#include <cuda_runtime.h>
#include <cassert>
typedef struct {
int n;
flo
浏览 1提问于2021-02-19得票数 1
回答已采纳
我正在学习cuda，到目前为止，我了解到cuda具有为全局对象分配内存的cudaMalloc()函数。但现在在一些矩阵乘法代码中，我看到他们正在使用另一个名为cudaMemcpy()的函数，该函数将对象从主机复制到设备，或者从主机复制到设备。但我不明白为什么需要它？由于cudaMalloc()正在分配全局内存，所以所有的设备内核都应该能够访问它，不是吗？
我的误解在哪里？
浏览 1提问于2012-12-13得票数 3
1回答
我有C++ CUDA项目，我有错误“标识符”"sprintf“在设备代码中没有定义”)。sprintf()在主机代码中使用，那么我如何在CUDA内核中将十六进制转换为char呢？
C++代码：
//md5Hash - its unsigned char hexdecimal array with length = 32
char str[16][2];
for (int j = 0; j < 16; ++j) {
sprintf(str[j], "%02x", md5Hash[j]);//convert by 2 symbols
}
//convert
浏览 4提问于2020-04-23得票数 1
回答已采纳
我正在编写一个c++ cuda程序。我有一个非常简单的结构：
struct A
{
int size;
float* tab;
}
还有一个内核：
__global__ void Kernel(A* res, int n,args*) //
{
int i = blockDim.x * blockIdx.x + threadIdx.x;
if (i < n)
{
res[i] = AGenerator::Generate(args[i]);
}
}
Generate创建A对象并填充选项卡数组。这里发生的情况是，当结果发送到主机时，选项卡指针无效。为了防止这种情况，我需要对这个类
浏览 2提问于2013-11-02得票数 0
回答已采纳
2回答
我从C++类向CUDA函数传递了一个二维数组；然而，一旦进入CUDA函数，矩阵中的数据就消失了。我仍然在主机中，而不是在设备中，所以我不知道我做错了什么，因为这应该是非常简单的。
这是C++
int main()
{
const int row=8;
const int column=8;
int rnum;
srand(time(0));
rnum = (rand() % 100) + 1;
float table[row][column];
for(int r=0; r<row; r++){
for(int c=0; c
浏览 0提问于2010-11-14得票数 0
回答已采纳
1回答
我将使用CUDA在GPU上实现一种创建3D模型的方法。我几年前就这样做了，但我想CUDA是从那时起发展起来的，所以我试着得到一些关于如何最好地做我将要做的事情的投入。
在我的C++版本中，我有一个体素向量，其中Voxel是一个包含浮点数的结构。向量应该表示一个完整的网格，我将对每个体素进行独立的计算。
之前，为了能够访问设备上的体素，我必须使用指针和cudaMalloc等等。我正在考虑是否有一些新的功能我可以使用。
在实际的内核中是否可以使用类似于向量的东西？推力是不合适的，因为它应该是从主机调用。
更有趣的是，是否可以在设备上进行动态内存分配，这样我就可以在GPU上实现类似octree之类的
浏览 0提问于2015-08-17得票数 1
回答已采纳
0回答
我正在尝试修改这里的代码： ...to使用cuda streams。
(请原谅我是c++的新手，并且只有几周的使用经验。)
我的主要尝试和症结在于调整NVCC函数，像这样接收一个cuda流作为arg，并提供给cuda调用：
nvcc_function = FunctionBody(
FunctionDeclaration(Value('void', 'my_sort'),
[Value('CUdeviceptr', 'input_ptr'),
浏览 5提问于2017-11-30得票数 1
方案是，我知道在费米中引入并在以后的架构中进一步增强的并发复制和执行机制，即在CUDA C++最佳实践指南中：
当前的GPU可以同时处理异步数据传输和执行内核。具有单个副本引擎的GPU可以执行一个异步数据传输和执行内核，而具有两个副本引擎的GPU可以同时执行从主机到设备的一个异步数据传输、从设备到主机的一个异步数据传输以及执行内核。GPU上的复制引擎的数量由asyncEngineCount结构的cudaDeviceProp字段提供，该字段也列出在deviceQuery CUDA示例的输出中。
当我在图灵GPU (RTX 2080 to和RTX 2080 SUPER)上执行CUDA 10
浏览 2提问于2020-02-11得票数 2
回答已采纳
我正在尝试使用对printf的调用从内核打印浮点值。我这样做是为了检查我正在开发的另一个程序，该程序需要将浮点数组从主机复制到设备。我编写了一个内核来检查存储在设备的float数组中的值，结果却得到了0。
所以我写了这段代码来检查：
#include <stdio.h>
#define ARR_LENGTH 3
__global__ void checkArr(float* arr);
int main(void)
{
float* arr = (float*) malloc(sizeof(float) * ARR_LENGTH);
float co
浏览 3提问于2013-03-23得票数 0
似乎其中一本CUDA书籍中的例子(CUDA按例:通用GPU编程简介)在初始化它们时从来不会使指针无效。
两个问题：
GPU是否使用0x0 (或整数0)作为空指针？我们是否应该按照C/C++指针的做法使用设备指针(例如，初始化时取消它们)
我们需要在cudaFree之前检查指针是否为NULL吗？if (devPtr) HANDLE_ERROR(cudaFree(devPtr))；
有人说，对于费米体系结构，0x0用于片上共享内存，但假设0x0不应被已使用的指针指向，似乎仍然可以使用。
开普勒建筑呢？GPU如何处理0x0地址？
谢谢!
浏览 2提问于2012-08-25得票数 6
1回答
在主机代码中，__CUDA_ARCH__宏似乎不会生成不同的代码路径，相反，它将为当前设备生成精确的代码路径。
但是，如果__CUDA_ARCH__在设备代码中，它将为公司选项(/arch)中指定不同设备生成不同的代码路径。
有人能确认这是正确的吗？
浏览 1提问于2013-04-18得票数 4
回答已采纳
"CUDA c++“语言是一种c++派生语言，但不受标准编译器的支持，但可以由nVidia的nvcc编译器编译。这可能导致多语言项目，它们的GPU模块由nvcc编译，而非GPU模块则由gcc编写。
例如，语法kernel<<<dims>>>(params)不是c++的一部分。
nVidia是否包括一个GPU库(作为CUDA的一部分)，实际上可以与标准的c++编译器一起使用，比如gcc？
浏览 3提问于2015-06-11得票数 3
回答已采纳
1回答
我的C++项目main.cpp是用PGI的pgcpp编译的，它调用一个包含CUDA代码的函数cuda()，该函数包含在一个单独的文件cuda.cu中，该文件用nvcc编译。除非在函数声明和公共头文件中使用cuda()函数包装extern "C"，否则将得到链接错误(未定义的引用)。
如果没有extern "C" (符号名称不匹配=>未定义引用)：
$ nm main.o | grep -y cuda
U cuda__FPfPiT2iN32
$ nm cuda.o | grep -y cuda
T _Z13cudaPfPiS0_iS0_S0_S0_
使用ex
浏览 2提问于2015-02-28得票数 2
回答已采纳
1回答
我目前正在开发一个程序，它执行多个并行和独立的计算，我决定用Cuda实现这些计算。详细地说，我想从一个类的方法中调用一个内核，这似乎是可行的。内核使用复制到设备内存中的"this"-pointer获取当前状态下调用它的对象。
重要的是要知道，此对象包含来自于宿主代码中预先分配的另一个类的对象向量。在内核中，我想对向量中的每个对象调用一个方法，该方法已经声明为设备代码。这个有点嵌套的方法调用不起作用，因为，我得到的不是一个有效的结果向量，而是一个零向量，它指示某些东西不能正常工作，尽管到目前为止，所有东西都应该与Cuda兼容。
有两类：
//Header of Ding-clas
浏览 0提问于2021-11-18得票数 0
1回答
我有一个类似这样的代码。
1)主机:启动图形内核2)主机:启动CUDA内核(所有异步调用) 3)主机:在主机上执行一系列数字运算4)返回步骤1
我的问题是。CUDA API保证CUDA内核即使是异步的，也会按启动顺序执行。这是否适用于渲染？假设我在GPU上进行了一些渲染相关的计算。如果我启动异步CUDA调用，它们是否只在渲染完成后才执行？或者这两个操作会重叠吗？
此外，如果我在步骤2之后调用CUDA设备同步，它肯定会强制设备完成CUDA相关函数调用。那么渲染呢？它是否会停止主机，直到渲染相关的操作也完成？
浏览 3提问于2014-02-07得票数 1
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
即时通信 IM
实时音视频活动推荐
腾讯云开发者
