发布
社区首页 >问答首页 >如何同时使用CUDA代码加速Tensorflow-gpu

如何同时使用CUDA代码加速Tensorflow-gpu
EN

Stack Overflow用户
提问于 2020-01-06 14:02:03
回答 1查看 143关注 0票数 0

我只有一个GPU(GTX 1070,8GB VRAM),我想使用tensorflow-gpu与另一个CUDA代码同时,在同一个GPU。但是,使用CUDA代码和tensorflow-gpu同时使tensorflow-gpu下降约两次。当tensorflow-gpu和CUDA代码一起使用时,有没有加快速度的解决方案?

EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2020-01-06 14:57:09

@talonmies评论的稍长版本:

GPU是很棒的,但是他们仍然有有限的资源。任何使用GPU的合格的应用程序都将尽最大努力使设备饱和,为其他应用程序留下很少的资源。事实上,优化GPU代码的目标和挑战之一--无论是着色器、CUDA还是CL内核--都是确保尽可能高效地使用所有CU。

假设TF已经在这样做:当运行另一个GPU重的应用程序时,或者您正在共享一个已经在全力运行的资源。所以事情变慢了。

一些备选办法是:

  1. 得到第二个或更快的GPU。
  2. 优化了您的CUDA内核,以减少需求并简化TF内容。在为GPGPU开发时,这一点总是很重要的,但是它不太可能帮助您解决当前的问题。
  3. 不同时运行这些东西。这可能会比目前这种准时间切片的情况稍微快一些。
票数 1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/59613474

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档