在GPU上执行外部优化器
是指利用图形处理器（GPU）来执行外部优化器的计算任务。外部优化器是指一种用于优化模型参数的算法，例如梯度下降法、Adam优化器等。通过在GPU上执行外部优化器，可以加速模型训练过程，提高计算效率。
分类： 在GPU上执行外部优化器可以分为两种情况：
- 单机GPU：在单个计算机的GPU上执行外部优化器。
- 分布式GPU：在多个计算机的GPU上执行外部优化器，通过分布式计算的方式加速优化过程。
优势：
- 加速计算：GPU具有并行计算能力，可以同时处理大量数据，加速优化器的计算过程。
- 提高效率：通过利用GPU的并行计算能力，可以在较短的时间内完成模型参数的优化，提高训练效率。
- 节省成本：相比于使用CPU进行计算，使用GPU执行外部优化器可以节省计算资源和成本。
应用场景： 在以下场景中，可以考虑在GPU上执行外部优化器：
- 大规模数据集：当数据集较大时，使用GPU可以加速优化器的计算过程，提高训练效率。
- 复杂模型：当模型较复杂时，使用GPU可以加速参数优化过程，减少训练时间。
- 实时训练：对于需要实时更新模型参数的任务，使用GPU可以提高训练速度，使模型能够及时响应变化。
推荐的腾讯云相关产品： 腾讯云提供了一系列适用于GPU计算的产品，包括：
- GPU云服务器：提供了多种配置的GPU云服务器实例，可满足不同计算需求。
- 弹性GPU：为云服务器提供了额外的GPU计算能力，可根据需求动态调整。
- GPU容器服务：提供了基于容器的GPU计算环境，方便部署和管理GPU计算任务。
- GPU计算集群：提供了高性能的GPU计算集群，可用于大规模并行计算任务。
产品介绍链接地址：
- GPU云服务器：https://cloud.tencent.com/product/cvm-gpu
- 弹性GPU：https://cloud.tencent.com/product/gpu
- GPU容器服务：https://cloud.tencent.com/product/ccs
- GPU计算集群：https://cloud.tencent.com/product/gpu-cluster
相关·内容
我是OpenCL/PyOpenCL的新手，我想知道在我的硬件上，在Raspberry GPU (VideoCoreIV)上的OpenCL和Numpy (在CPU上)在向量和矩阵乘法上的比较。 我使用VC4CL作为OpenCL 1.2在VideoCore IV图形处理器上的实现。(https://github.com/doe300/VC4CL) 我得到了糟糕的结果，我不明白为什么，我不知道问题是与配置相关的，还是与代码相关的，或者我只是无法在Numpy上使用这种东西的OpenCL的优势。 这是我的"clinfo"： Number of platforms
浏览 45提问于2019-03-18得票数 0
我使用NVIDIA和OpenACC (NVIDIA GeForce960，编译器:PGI 15.7)
NVIDIA GPU支持分支预测吗？我的代码在长循环中有条件执行代码。但是当我在GPU上运行我的代码时，需要很长时间。
下面是示例代码。
#pragma acc parallel loop
for(i=0; i<1000; i++) // NVIDIA GPU kernel with OpenACC
for(j=0; j<1000; j++)
if(a[i][j]==value)
// do something...
else if
浏览 2提问于2015-09-16得票数 2
回答已采纳
我计划运行一个非常大的递归网络(例如，2048x5)，是否可以在tensorflow中的一个GPU上定义一个层？如何实施该模型才能达到最佳的效率。据我所知，GPU或GPU-CPU-GPU之间的通信存在开销.
浏览 4提问于2016-03-30得票数 9
回答已采纳
比方说，如果我想在gpu管道中为顶点变换构建矩阵，我意识到我目前的实现效率很低，因为它从源材料为每个单独的顶点重建矩阵(而它实际上只需要为每个受影响的顶点构建一次)。有没有办法修改在一次绘图调用中绘制的整个顶点数组？计算矩阵并将它们存储在vram中似乎不是一个非常好的选择，因为将同时处理多个顶点，并且我认为我不能有效地同步它们。我唯一能想到的其他选择是计算着色器，我还没有研究过它的用途，但有没有可能让它计算矩阵并将它们存储在gpu中，这样我以后绘图时就可以访问它们了？
浏览 2提问于2012-04-12得票数 0
我遇到了一个问题，我需要在一个大型3d数组上运行一个复杂的函数。对于每个数组行，我将在任何地方执行100到1000个指令，并根据该行上的数据执行一些指令，或者不执行。
这个数组很大，但仍然适合于GPU共享内存(大小约为2GB )。我可以在数组的不同部分上执行这些指令，因为它们不需要按顺序处理，所以我认为在GPU上执行可能是一个很好的选择。我不完全确定，因为执行的指令将根据数据本身的不同而改变(其中有很多if/后天/‘ve)，而且我已经阅读过分支可能会出现问题。
这些指令是一个抽象语法树，表示在数组行上操作并返回值的短程序。
这看上去像是GPU要解决的合适问题吗？
需要哪些其他信息才能确定这一点
浏览 1提问于2020-06-18得票数 0
回答已采纳
在我运行时的cuda程序中，cpu和gpu可以异步计算，但不能协同计算，为什么？
我测量了程序的时间，总时间是cpu计算时间和gpu计算时间的总和.Through视觉配置文件，我发现gpu直到cpu完成才开始计算。我的目的是让cpu和gpu同时计算。
平台: window 10
cuda 7.5
vs2013
在调试模式下编译的代码(无优化)
#include "cuda_runtime.h"
#include "device_launch_parameters.h"
#include <stdio.h>
#include<time.h>
浏览 0提问于2016-12-05得票数 0
我已经写了一个CUDA程序，它已经得到了一个加速与40的串行版本(2600 K比GTX 780)。现在，我正在考虑使用几个流来运行几个内核并行。现在我的问题是:我如何衡量我的GPU上的免费资源(因为如果我在GPU上没有免费资源，那么流的使用就没有意义了，对吗？)，在这种情况下，流的使用是有意义的吗？
如果被问到的话，我当然可以提供我的代码，但现在我觉得没有必要问这个问题。
浏览 3提问于2014-06-30得票数 0
回答已采纳
1回答
我正在运行以下代码：
cv::Ptr<cv::FastFeatureDetector> fastDetector = cv::FastFeatureDetector::create(100, true, 2);
cv::Ptr<cv::cuda::FastFeatureDetector> gpuFastDetector = cv::cuda::FastFeatureDetector::create(100, true, 2);
std::vector<cv::KeyPoint> keypoints;
std::vector<cv::KeyPoint&
浏览 6提问于2016-10-07得票数 2
回答已采纳
1回答
有人在维护CPU和GPU的单一代码库方面有经验吗？我想创建一个应用程序，如果可能的话，它将使用GPU进行一些长期的计算，但如果目标机器上没有兼容的GPU，它将只使用常规的CPU版本。如果我可以使用条件编译指令编写一部分代码，它将编译成CPU版本和GPU版本，这将是非常有帮助的。当然，对于CPU和GPU，会有一些不同的部分，但我希望将算法的本质保留在一个地方。这有可能吗？
浏览 1提问于2012-03-09得票数 5
1回答
GPU架构定制？
、、、
我正在做一个关于GPU上的CUDA加速的项目，并在我的计算中完成了一些软件级的优化，我还发现GPU架构中的一些变化可能会进一步帮助项目的优化。
现在我的问题是，是否有一种有效的方法或现有的仿真器可以让我更改GPU架构中的一些功能或部件，然后我可以在该定制架构上对CUDA PTX代码进行基准测试，以获得性能结果(最好是周期准确的)？有几个GPU的架构模拟器，所以我想知道其中是否有一些可能支持GPU？或者我可能不得不写一个GPU模拟器myself^_^？
浏览 4提问于2012-11-21得票数 1
回答已采纳
当我越来越多地使用OpenGL ES 2.0和GLSL时，我质疑着色器程序到底是如何在硬件上执行的。我理解顶点和碎片着色器程序背后的概念，但它们如何在金属上工作仍然是非常不清楚的。当我读到关于GPU的文章时，我经常会遇到流水线这个术语，一个GPU有一定数量的流水线。
我理解管道的作用，它提供了一组顶点(表示几何图元)，并使用给定的参数执行顶点着色器，并通过一些固定功能的硬件发送顶点着色器的输出，这些硬件根据这些输出执行操作。顶点着色器还输出值，这些值在基本体的每个片段上插值并输入到片段着色器中，从而可以轻松地使用通用算法执行大量复杂的渲染。
但这是否意味着，如果GPU有n条管道，那么在任何给定
浏览 0提问于2013-04-19得票数 2
我想在GPU上运行Halide代码。有一个关于如何在GPU上运行和如何进行交叉编译的教程示例。但是，没有将交叉编译与在GPU上运行相结合的教程。
我尝试了与交叉编译教程中的方法相同的方法。但我不确定目标的配置。
target.os = Target::Windows;
target.arch = Target::X86;
target.bits = 64;
...
target.os = Target::Windows; // ???
target.arch = ??? ;
target.bits = 64;
std::vector<Target::Feature> gpu_
浏览 18提问于2017-03-07得票数 1
回答已采纳
首先从一些上下文开始：
GPU没有实现SparseApply*操作符(从0.11开始)
这些操作需要使用动量和ADAM以及其他各种基于梯度的优化器。
CPU版本会导致CPU和GPU之间的数据传输和延迟。
我希望在一个在许多地方广泛使用tf.gather的模型上，以一种不会削弱GPU利用率的方式，使用does /ADAM。我的变量的密集版本并不特别大，特别是与计算图中的激活和其他张量所使用的内存相比。
除了为GPU实现这些SparseApply*操作之外，我还想到了一个解决办法，我想就它是否可能起作用、其他建议还是仅仅是一般性的批评发表一些意见：
在dict D中跟踪我的
浏览 3提问于2016-11-28得票数 1
我正在使用nsight 2.2，Toolkit 4.2，最新的nvidia驱动程序，我在我的电脑中使用了几个GPU。构建自定义4.2。我已经在CUDA的项目属性上设置了“生成GPU输出”，nsight monitor打开了(一切看起来都很棒)。
我在全局内核函数上设置了几个断点。nsight在函数声明处停止，但跳过几个断点。这就像nsight决定是命中一个断点还是跳过一个断点。有趣的是，nsight在for循环中停止，但不会在简单的赋值操作中停止。
另一个问题是，我不能设置焦点或向监视列表添加变量。在这种情况下(见附件截图)，我无法解析变量的值："posss“或"testDet
浏览 0提问于2012-05-31得票数 5
回答已采纳
1回答
我在使用pytorch 时遇到了一些问题。情况是：
我的模型是A，和往常一样，它是在单片 GPU上训练的。假设A中有三个层：
A类(nn.module)：def __init__(self)：super(A，self).__init__() self.layer0 = layer0 self.layer1 = layer1 self.layer2 = layer2 def forward(self，x)：x=self.layer0(x) x=self.layer1(x) x=self.layer2(x)返回x
现在我有了一些新的数据。我想在多个GPU上微调A.我需要把A包装成一个多GP
浏览 3提问于2019-12-02得票数 0
我们都知道GPU在广泛的应用程序中比CPU快得多。当有人问我们为什么不只是为GPU编程时，最常见的答案之一是GPU并不适合所有的东西--也就是说，它们不能做一些CPU很容易做的事情。好吧，怪不得:毕竟，它们不适用于一般计算。GPU与游戏和图形应用程序紧密相连，它们不仅有专门的功能，而且经常为它们做广告。
我的问题是:那么，为什么我们不构建和使用真正为并行程序设计的处理器呢？
浏览 0提问于2014-09-02得票数 2
Argon2在web应用程序中散列密码的合理参数是什么？一方面，我们需要良好的性能，快速的响应和DDoS的电阻，但另一方面，我们需要在现代GPU，ASIC，FPGA等的暴力保护。我看到了一个姜戈的例子 -他们使用Argon2i与p=2，t=2和512 of的RAM，那么，它现在足够了吗？
更新:基本上，我需要尽可能低的响应时间，比如说5ms，让用户破解他的密码。考虑到RAM的理论吞吐量，我可以为每个密码提供2到8Mb的内存，所以我可以在CPU上花费更多的时间，或者用较少的计算来消耗更多的RAM。在这种情况下(做更多的CPU计算或每个密码消耗更多RAM )获得尽可能最大的蛮力阻力的最佳策略是什么
浏览 0提问于2017-02-03得票数 11
回答已采纳
1回答
移动GPU上的Mxnet
、、、、
我想在手机上运行一个神经网络。目前，我正在探索Mxnet ()框架来部署它(仅用于推断)。由于我担心手机的执行时间性能，我想知道它是否运行在移动电话的GPU (Android/iOS)上。文档中提到，它可以使用多个CPU和GPU进行培训，但还不清楚是否可以在移动电话上使用GPU进行推理。它提到了对BLAS的依赖，因为它似乎在移动上使用CPU。有人能告诉我是否可以使用移动GPU和mxnet进行推理吗？如果没有，我的其他选择是什么？
浏览 2提问于2016-11-18得票数 1
回答已采纳
我想问一下在iPhone (我正在使用的iPhone X和iOS 12 )上如何计算fp16和fp32核心ML模型。我有一个fp32模型，并使用coremltools将其量化为fp16。大小确实减少到fp32大小的一半左右，但预测时间根本没有减少，这一点我不太理解。 我已经用Xcode Shader Debugger查看了GPU帧。所有的缓冲区似乎都显示数据是RGBA16Float格式的，所以我想知道fp32权重或偏差是否已经转换为fp16格式？此外，管道统计数据显示了一条消息，即“高浮点与半比”。这是不是意味着图形处理器会在计算之前将所有数据转换为fp16？ 我用fp32和fp16类型对M
浏览 63提问于2019-04-22得票数 2
1回答
多GPU上的稀疏矩阵向量积
、、、、
我想知道在多个(比方说n个)GPU上的CUDA中计算稀疏矩阵向量积y= Ax的最快方法是什么。
我天真的方法是将向量x和y分成n个块，每个GPU上有一个块。然后还将矩阵A分成更小的n^2个块A_ij并进行计算
y_i = \sum_j A_{i,j} x_j, // GPU j stores A_{i,j} and x_j, result is copied
// to and summed up on GPU i
以cuSPARSE为例，在不同的GPU上运行j=1..n。这样行得通吗？使用统一内存架构，原则上所有GPU都应该能够访问全局
浏览 0提问于2015-09-15得票数 1
1回答
伯特是如何利用TPU记忆的？
、、、、
在谷歌的伯特回购说，即使是一句长度为512不能坐在12 GB的泰坦X为伯特-大型号。
但是在BERT论文中，它说64片TPU芯片被用来训练最大长度512和批量大小256的BERT。它们怎么能把>256 x的大批装进仅仅171倍的内存中呢？
从另一个角度来看，我们可以在每个示例内存使用的基础上比较这两种配置：
TPU:假设在预培训中使用了TPUv3，那么总的TPU内存是32 GB /芯片* 64芯片= 2048 GB。本文认为，最大长度为512的256个批处理在这种配置中工作良好，这意味着8 GB内存可以容纳单个样本，而且如果使用GPUv2，则每个样本的内存使用量将减少到4GB。
浏览 2提问于2019-05-12得票数 2
第一个问题是，我有两个renderPasses，我不设置它们的依赖项，是在GPU中并行执行两个renderPasses，还是按照执行vkQueueSubmit时提交的命令缓冲区序列执行。例如：
1，renderpass1
2，renderpass2
3，renderpass3
gpu要按这个顺序做1,2,3吗？还是，无序并行执行2,1,3？
第二个问题是，只有一个renderPass，一个命令缓冲区，记录在vkCmdBeginRenderPass和vkCmdEndRenderPass之间的命令缓冲区中的命令是在GPU上并行执行，还是按vkQueueSubmit do顺序执行。例如，记录的命令的
浏览 7提问于2020-11-12得票数 0
回答已采纳
1回答
内核参数数据驻留在哪里？
、、、
与标题一样，在cuda程序中，内核参数在内核启动后、本地内存或GPU的全局内存中驻留在哪里？
例如，在cuda程序的LLVM IR中：
__global__ kernel(int param1):
%0 = alloca int
store param1, %0
那么，在这种情况下，%0指向哪里？本地内存还是全局内存？
此外，我看到有时内核参数被保存，并直接在寄存器中使用，而不是存储在任何内存中。这个决定是如何作出的？
浏览 1提问于2015-09-28得票数 3
回答已采纳
TensorFlow中完全自定义的层会自动在GPU上运行吗？我注意到在这个文档()中，RNN似乎不会使用CudNN？这意味着它不会在GPU上运行，对吧？
浏览 6提问于2020-04-25得票数 0
回答已采纳
我试图在tensorflow版本2.4.1上使用嵌入层并行化一个模型。但是它给我带来了以下错误：
InvalidArgumentError: Cannot assign a device for operation sequential/emb_layer/embedding_lookup/ReadVariableOp: Could not satisfy explicit device specification '' because the node {{colocation_node sequential/emb_layer/embedding_lookup/ReadVa
浏览 3提问于2021-03-18得票数 1
回答已采纳
2回答
我做了一个简单的实验，通过实现朴素字符搜索算法，在CPU和GPU (使用iOS8金属计算流水线)上搜索每50个字符的1.000.000行(50milcharmap)。
CPU实现使用简单循环，Metal实现给每个内核1行处理(下面的源代码)。
令我惊讶的是，金属实现平均要比简单的线性CPU慢2-3倍(如果我使用一个核心)，如果我使用两个核心(每个内核搜索一半数据库)，则要慢3-4倍！我试验了每组不同的线程(16，32，64,128,512)，但仍然得到了非常相似的结果。
iPhone 6：
CPU 1 core: approx 0.12 sec
CPU 2 cores: approx 0.0
浏览 0提问于2015-05-25得票数 12
1回答
我想微调一个GPT-2模型使用Huggingface的变形金刚。最好是中型型号，但如果可能的话要大一点。目前，我有一个RTX 2080钛与11 of的内存，我可以训练小模型刚刚好。
我的问题是:如果我在我的机器上添加了一个旧的Tesla K80 (24 an )并分发培训，我会遇到什么问题吗？在培训期间，我找不到关于使用不同容量GPU的信息，也找不到我可能遇到的问题。
我的模型大小限制基本上是所有可用GPU内存的总和吗？(35 GPU？)
我不想在AWS里这么做。
浏览 11提问于2020-03-28得票数 4
可以使用OpenACC在图形处理器上运行java代码的"for循环“吗？我的数据挖掘算法是用java编写的，我想在GPU上并行我的顺序代码。如何在GPU上实现java代码的并行化？
浏览 1提问于2015-04-14得票数 4
6回答
我对GPU编程的概念和API一无所知。我有几个问题：
是否有可能编写一段托管C#代码并将其编译/转换成某种模块，这些模块可以在GPU上执行？或者我注定要有两个实现，一个是CPU上的托管实现，另一个是GPU的实现(我知道在GPU上执行什么是有限制的)？
是否存在一个体面而成熟的API来独立地针对各种GPU硬件供应商(即公共API)进行编程？
如果您想要开发以托管语言编写的在CPU上运行的应用程序，并且在存在合适的GPU硬件的情况下也提供速度优化，那么有什么最佳实践吗？
我也会很高兴链接到任何类型的文件与适当的学习资源。
最佳，Jozef
浏览 10提问于2010-11-07得票数 41
回答已采纳
3回答
我目前正在学习OpenGL，很明显，我可以在CPU或GPU上完成大部分的计算。例如，我可以在CPU上做一些类似lightColor * objectColor的事情，然后通过GLSL制服将它发送到GPU。相反，我可以分别发送它们，并让GLSL执行计算。
在哪里进行图形计算有最佳实践吗？我的想法是，GPU可能是优化矩阵或矢量计算。然而，我也认为CPU可能是一个更好的地方，因为GPU可能有更好的事情要做。
浏览 0提问于2019-10-07得票数 3
1回答
CPU与GPU核心数
、、、
为了进行并行计算，我需要一些帮助来理解GPU上的核心与CPU中的核心的概念。
当涉及到CPU中的核心时，它似乎非常简单。我有一个超级密集的"for“循环，它会迭代四次。我的英特尔i5 2.26 CPU处理器有四个核心。我给每个内核一个循环。这四个循环中的每一个都是相互独立的。Boom -我现在创建了四个线程，CPU使用率为100% (而不是只有一个内核的CPU使用率为25% )。我的"for“循环现在的运行速度几乎是没有并行化的情况下的四倍。
相比之下，我甚至不知道我的笔记本电脑的GPU (Intel Graphics Media Accelerator HD，或Intel H
浏览 2提问于2014-05-03得票数 1
1回答
假设我有一个OpenCL内核，其中每个工作项都执行一次int_32操作，并且我的GPU支持256位单指令多数据操作，那么OpenCL能够将8个工作项打包在一起以利用单指令多数据的优势吗？即一个处理单元同时执行多个工作项。如果是这样，那么什么时候会发生这种情况？在"clBuildProgram“阶段，还是当二进制文件在GPU上实际执行时(即时编译)？
第二个似乎更合理，因为这只能在我定义工作组大小之后才能决定，例如，如果我说每个工作组有1个工作项，那么矢量化就不会发生？
我查看了"clBuildProgram“之后的Nvidia ptx文件，我仍然看到了标量IR，但我不确定是英特
浏览 1提问于2016-12-09得票数 0
1回答
有没有人找到了稳定访问GPU运行时的方法？
目前，我遵循这个过程：
Runtime -> Change runtime type -> "Python 2" and "GPU" -> Save -> Runtime -> Connec to runtime...
并检查是否启用了GPU：
import tensorflow as tf
tf.test.gpu_device_name()
然而，我得到了''，尽管在30次中有一次我能够连接。有人知道这是怎么回事吗？
浏览 1提问于2018-02-08得票数 1
1回答
当我试图在有300个核心的GPU系统上运行这个代码时，我在代码的开头使用了tf.device注释(‘/GPU:0’)。但发现它不在GPU上运行。然后我试着
import tensorflow as tf
tf.device('/GPU:0'): # for run in GPU
init = tf.initialize_all_variables()
# initializing all variables
sess = tf.Session(
config=tf.ConfigProto(
浏览 4提问于2018-06-11得票数 2
回答已采纳
2回答
我使用从tf.train.shuffle_batch调用返回的队列在TensorFlow中进行培训。我曾假设TF在对GPU上的当前批执行计算时会预取下一批。也就是说，我想象出这样一种流动
在CPU上加载批处理A
在GPU上使用批处理A，在CPU上加载批处理B
在GPU上使用批处理B，在CPU上加载批处理C
..。
然而，从跟踪输出来看，情况似乎并非如此：
对于大多数QueueDequeueMany操作，GPU是空闲的。
就像我想象中的TensorFlow一样，如果可能的话:我做错了什么？
浏览 2提问于2016-12-27得票数 0
回答已采纳
当我第一次搜索丢弃指令时，我发现专家说使用丢弃会导致性能下降。他们说，丢弃像素会破坏GPU正确使用zBuffer的能力，因为GPU必须首先运行片段着色器，以便两个物体都能检查靠近摄像机的物体是否被丢弃。对于我目前正在开发的2D游戏，我已经禁用了深度测试和深度写入。我正在绘制所有的对象，按它们的深度排序，仅此而已，GPU不需要做一些花哨的事情。现在，我在想，如果我丢弃片段着色器中的像素，是否仍然很糟糕？
浏览 0提问于2012-10-19得票数 23
回答已采纳
1回答
无法更改显示布局
、、
我试图把我的外部显示器的相对位置与我的笔记本电脑的内部显示器互换，因为外部显示器在我的左边，但显示在右边。然而，当我试图改变它的时候，我从我的帐户中注销了，并且更改没有完成，当Nvidia GPU被禁用和英特尔iGPU在它的位置使用时工作，但是当Nvidia GPU被重新启用时，它被恢复了。i7-4500u，GT 750 m Ubuntu 15.10，linux 4.2.0-17，Nvida-352
浏览 0提问于2015-11-06得票数 0
我在两个GPU上对工作负载进行了分区(也称为模型分区)。默认情况下，TF/Keras在GPU0上分配所有的渐变，但我想使用colocate_gradients_with_ops将分配分散到两个GPU上。
我正在寻找一种在Keras中做到这一点的简单方法。我的方法是创建一个新的优化器，这个优化器从tf.train.AdamOptimizer继承而来，只是为了翻转colocate_gradients_with_ops的默认值(从False到True)。另外，我必须用两种方法翻转它！
我正在寻找一种比Keras中的方法更短、更直接的方法。
class MyAdamOptimizer(tf.train
浏览 0提问于2018-09-22得票数 0
好吧，所以不是一个“发展”问题，而是高度相关的问题。
当我玩游戏时，我经常看性能数字，比如CPU的使用，GPU的使用，内存的使用等等。让我们谈谈GPU在PC上的使用。以下是我的观察:有两种游戏：
最大GPU使用率:这些游戏产生60 FPS或90%+ GPU的使用。
GPU使用率差:这些游戏同时产生的FPS不足60，GPU使用率不足90%。
MAX GPU示例(试图确保我的想法被理解为ok)：
50 FPS，100% GPU
60 FPS，90% GPU
60 FPS，50% GPU (也合法)
可怜的GPU例子：
30 FPS，60% GPU (FPS限制为60)
40 FPS，50% GPU
浏览 0提问于2015-12-08得票数 1
1回答
下面是我试图为GPU优化的一个函数。在这个代码中，模糊花费了相当长的时间。当我运行正常的CPU版本的这段代码时，对30个图像执行大约需要1.5秒( framesToProcess包含30个图像)。当我运行这段代码(它使用gpu:：functions和GpuMat )时，需要超过30秒。如果我评论gpu::blur行，只需0.5秒即可执行。请帮助我找到什么是错误的GPU版本。
void getContourCenters(vector<gpu::GpuMat> &framesToProcess, vector<pointI>& contourCenter
浏览 2提问于2015-07-20得票数 1
回答已采纳
较新的系统，如OpenCL，是为了让我们能够在图形处理器上运行越来越多的代码，这是有意义的，因为我们应该能够尽可能多地利用系统中的功能。
然而，对于所有这些新系统，GPU似乎在各个方面都优于CPU。因为GPU可以并行计算，所以多核GPU看起来比多核CPU要好得多；您可以一次完成许多计算，并真正提高速度。在某些情况下，串行处理仍然比并行处理更好、更快和/或更高效吗？
浏览 0提问于2011-09-11得票数 17
回答已采纳
在优化过程中，我想实验每一层的权重和偏差。我目前正在研究。这里，在编译模型数据之后，通过model.fit_generator().传递模型数据。
我希望在更新时获得每个层的权重和梯度，以应用阈值(如果梯度值小于阈值，则权重将不会更新)。
我试图实现一个自定义的fit_generator，，但我也希望fit_generator's的并行性，效率，实时数据增强的图像上的CPU并行训练模型上的GPU。
浏览 1提问于2019-07-02得票数 1
回答已采纳
因此，在cuda可视分析器中有两个计时器，
GPU时间:该方法在GPU上的执行时间。CPU时间:启动该方法的GPU时间和CPU开销之和。在驱动程序生成的数据级别，对于非阻塞方法，CPU时间仅是启动方法的CPU开销；对于阻塞方法，CPU时间是GPU时间和CPU开销之和。默认情况下，所有内核启动都是非阻塞的。但是，如果启用了任何探查器计数器，内核启动都会被阻塞。不同流中的异步内存复制请求是非阻塞的。
如果我有一个真正的程序，那么实际的执行时间是多少？我测量时间，有一个GPU定时器和一个CPU定时器，有什么区别吗？
浏览 5提问于2010-12-04得票数 2
回答已采纳
下面是一个玩具示例，我把它放在一起，探索使用CPU加速执行的parfoor函数。然而，即使在查看了并行文档之后，我仍然对如何升级它以在我的GPU (Nvidia 980ti)上运行感到困惑。
非常感谢任何关于如何更新此代码以在GPU上运行的指示。
干杯。
% toy example--monte carlo estimation of pi using for loops
tic;
N = 1000000000;
hitcounter = 0;
for i = 1:N
x = rand;
y = rand;
if ( y < sqrt(1-x*x) )
浏览 1提问于2017-08-12得票数 1
我换了一台新的笔记本电脑，戴尔纬度E6520。这台笔记本电脑有一个NVidia/Intel混合GPU设置。当启用"NVidia Optimus“时，Linux ()可以同时看到两个GPU：
lspci | grep VGA
00:02.0 VGA compatible controller: Intel Corporation 2nd Generation Core Processor Family Integrated Graphics Controller (rev 09)
01:00.0 VGA compatible controller: nVidia Corporation
浏览 0提问于2012-03-08得票数 6
回答已采纳
1回答
我在NVIDIA上使用了对OpenCL 2.0的测试版支持，目标是像1080ti这样的高端GPU。在我的计算管道中，有时我需要将工作分派给独立的图像处理，相对较小的图像。理论上，我认为这些图像应该能够在单个GPU上并行处理，因为单个图像的工作组数量不会使GPU的所有计算单元饱和。
这在OpenCL中是可能的吗？这在OpenCL中有名字吗？
如果可能的话，对一个设备使用多个队列是唯一的方法吗？或者驱动程序会查看"waitEventList“并决定哪些内核可以并行处理？
我需要CL_QUEUE_OUT_OF_ORDER_EXEC_MODE_ENABLE吗？
浏览 3提问于2017-09-16得票数 1
我目前有一些现有的代码，它们在GPU上工作得很好。我尝试在单GPU的Ubuntu机器和多GPU的集群服务器上运行它。这两个实验都非常快。 然而，当我尝试在我自己的笔记本电脑上用一个CPU (没有GPU)运行它时，它变得非常低……速度慢100倍以上。 我知道当我没有GPU进行训练时，速度会慢得多。但我真的希望了解“队列”是否会受到这种硬件平台差异的影响。 通常，我们使用CPU通过“队列”将数据加载到GPU，但是使用单个CPU并使用Tensorflow队列是没有任何意义的。有谁能给我一些指导吗？
浏览 18提问于2019-01-17得票数 0
回答已采纳
我正尝试在tensorflow(python2上的v1.9.0)上使用adadelta优化器在GPU上训练一个模型。它显示以下错误。
InvalidArgumentError (see above for traceback): Cannot assign a device for operation 'embedding_matrix_de/read': Could not satisfy explicit device specification '' because the node was colocated with a group of nodes
浏览 30提问于2018-07-31得票数 1
回答已采纳
2回答
我一直在为安卓设备准备一个游戏，这款游戏是我在iOS上使用cocos2d x创建的。我在iPad2上得到了相当不错的fps，大约45。当涉及到Android设备时，fps的变化如下所述：
设备-三星注意到GPU -马里-400 55 FPS - 55-60
设备- Moto defy+ GPU - PowerVR SGX530 FPS - 35-40
设备-三星谷歌Nexus S GPU - PowerVR SGX540 FPS - 50-55
设备- Moto xoom GPU - ULP GeForce FPS - 15-20
设备-三星星系10.1 GPU - ULP
浏览 0提问于2012-02-15得票数 1
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
即时通信 IM
实时音视频活动推荐
腾讯云开发者
