如何在单个gpu上并行训练两个tensorflow脚本？
在单个GPU上并行训练两个TensorFlow脚本，可以通过以下步骤实现：
- 多线程并行训练：使用Python的
threading模块创建两个线程，每个线程负责运行一个TensorFlow脚本。确保每个线程都使用不同的GPU设备，可以通过设置CUDA_VISIBLE_DEVICES环境变量来指定使用的GPU设备。 - TensorFlow的
tf.device：在每个TensorFlow脚本中，使用tf.device函数将不同的操作分配到不同的GPU设备上。例如，将第一个脚本中的操作分配到GPU 0，将第二个脚本中的操作分配到GPU 1。 - 数据分割：如果两个脚本需要使用相同的数据集进行训练，可以将数据集分成两部分，分别在不同的脚本中使用。这样可以避免数据冲突和同步问题。
- 模型参数共享：如果两个脚本需要共享相同的模型参数，可以在一个脚本中定义模型，然后将模型参数传递给另一个脚本。这样可以避免重复定义模型和参数的开销。
- 同步训练：如果两个脚本需要进行同步训练，可以使用TensorFlow的分布式训练框架，如
tf.distribute.Strategy。这样可以实现跨多个GPU设备的并行训练和同步更新模型参数。
总结起来，要在单个GPU上并行训练两个TensorFlow脚本，需要使用多线程并行训练、使用tf.device函数分配操作到不同的GPU设备、数据分割、模型参数共享和同步训练等技术手段。具体实现可以根据实际需求和场景进行调整和优化。
腾讯云相关产品和产品介绍链接地址：
相关·内容
我是机器学习和Tensorflow的新手。我有一个关于TensorFlow分布式训练的问题。我读过关于多GPU环境的文章，它看起来很有可能(https://www.tensorflow.org/guide/using_gpu)。 但是，如果多台计算机具有多个GPU，情况会怎样呢？是否可以在几台机器之间分配机器训练任务？是否有特定的算法/任务，需要这样的分布或多个GPU就足以进行机器学习？这会有需求吗？ 谢谢
浏览 8提问于2019-06-15得票数 1
回答已采纳
我读过和。
根据的说法，在数据并行方法中：
该算法将数据分布在不同的核间。
每个核心独立地尝试估计相同的参数。
然后，核心交换他们的估计彼此，以得出正确的估计为步骤。
在模型并行方法中：
该算法向所有核发送相同的数据。
每个核心负责估计不同的参数。
然后，核之间交换它们的估计值，为所有参数得出正确的估计值。
In-graph replication和Between-graph replication与这些方法有什么关系？
说：
例如，可以在不同的GPU上并行地训练网络中的不同层。这个培训过程通常被称为“模型并行性”(或TensorFlo
浏览 0提问于2018-06-20得票数 8
回答已采纳
我一直在使用单个GTX Titan训练我的tensorflow再训练算法，它工作得很好，但当我尝试在再训练示例中使用多个GPU时，它不起作用，当我在Nvidia SMI中运行它时，它似乎只使用一个GPU。
为什么会发生这种情况，因为它在从头开始在初始模型中重新训练时使用多个gpus，而不是在重新训练期间？
浏览 5提问于2016-09-05得票数 1
回答已采纳
我读过Tensorflow关于InterOp和IntraOp并行性的文档。然而，我还没有完全理解InterOp并行是如何影响Tensorflow的。
我的问题是:来自InterOp线程池的线程实际上是并行地训练模型(也就是说，每个线程都在训练批的不同子集上进行训练，方法是在线程之间分割训练迭代)，还是它们只是并行执行图的非冲突分支？
浏览 0提问于2017-08-03得票数 2
回答已采纳
1回答
当我运行没有TFF的代码(使用model.fit()训练我的模型)时，我注意到CPU的使用率是5%，并且我的代码运行GPU。但如果我引入TFF :抛开GPU不谈，训练需要大量CPU (90%的量级)和大量内存，因为我知道我使用的是: Tensorflow Federated v0.12.0 Tensorflow v2.1.0
浏览 4提问于2020-03-02得票数 0
1回答
我正在训练一个由CNN和RNN组成的模型，输入到不同的输入，输出将被输入到FCN。现在的问题是：
我可以在CPU上运行CNN，在GPU上并行运行RNN吗？
与Tensorflow一样：
with tf.device('/cpu:0'):
CNN...
with tf.device('/gpu:0'):
RNN...
浏览 0提问于2018-05-29得票数 0
回答已采纳
我在比较两个预先训练过的模型，一个在Tensorflow，一个在Py手电，在一个有多个GPU的机器上。每个型号适合一个GPU。它们都加载在相同的Python脚本中。我如何将一个GPU分配给Tensorflow模型，另一个GPU分配给Py火炬模型？
设置CUDA_VISIBLE_DEVICES=0,1只告诉这两个模型这些GPU是可用的--我(在Python猜中)，如何确保Tensorflow采用GPU 0，Pytorch采用GPU 1？
浏览 0提问于2018-09-11得票数 0
回答已采纳
1回答
我正在尝试使用带有tensorflow后端的keras来训练ResNet50模型。我使用的是一个sagemaker实例ml.p3.2xlarge，但是我的培训时间非常长。我使用的是conda_tensorflow_p36内核，我已经验证我安装了tensorflow-gpu。
当检查nvidia的输出时，我看到进程在GPU上，但利用率从未超过0%。
Tensorflow也能识别GPU。
训练时间截图。
虽然使用的是0%，但sagemaker实际上是在使用GPU吗？会不会是由另一个问题引起的？
浏览 1提问于2022-04-13得票数 0
回答已采纳
1回答
我的服务器上有两个GPU，我想在它们上运行不同的训练任务。
在第一个任务中，我试图强制Tensorflow只使用一个GPU，我在脚本顶部添加了以下代码：
import os
os.environ['CUDA_VISIBLE_DEVICES'] = '0'
在运行第一个任务之后，当我试图在另一个GPU上运行第二个任务时(使用相同的2行代码)，就会得到错误"No device GPU:1".。
有什么问题吗？
浏览 0提问于2020-03-05得票数 0
回答已采纳
2回答
假设服务器上有8个gpus。(由0至7)
当我在gpu #0上训练一个简单的(小的)模型时，每小时大约需要20分钟。但是，当我在一些gpu上加载5或6个以上的模型时，例如，从gpu #0到#2的每个gpu有2个实验，(总共6个)每个时代的训练时间都会爆炸。(约1小时)
当我为所有gpu训练两台gpu(总共16个实验)时，大约需要3个小时才能完成一个时代。
当我看到CPU的利用率时，它是好的。但是GPU的利用率下降了。
下降的原因是什么，我如何解决这个问题？
浏览 15提问于2022-09-03得票数 0
回答已采纳
我正在尝试在GPU上训练我的模型，而不是在我的木星笔记本上的AWSp2.x大型实例上训练CPU。我使用的是tensorflow-gpu后端(仅在requirements.txt中安装和提到了tensorflow-gpu，而不是tensorflow)。
与使用CPU相比，在这些实例上训练模型时，我没有看到任何速度的提高，事实上，我每一个时代都能获得几乎与我的4核笔记本电脑CPU相同的训练速度(p2.xlarge也有带有Tesla K80 GPU的4个vCPU)。我不确定是否需要对代码做一些更改，以适应GPU能够提供的更快/更并行的处理。我在下面粘贴我的模型的代码：
model = Sequent
浏览 6提问于2017-11-30得票数 12
回答已采纳
我的笔记本电脑是Thinkpad T470P，它似乎有两个GPUs -一个是集成英特尔高清显卡630，另一个是GeForce 940MX。 我安装了CUDA版本。10.1成功运行，现在我想在Tensorflow中运行训练。我想知道训练使用的是哪个GPU，所以我尝试了一下： from tensorflow.python.client import device_lib
device_lib.list_local_devices() 这就是我得到的： [name: "/device:CPU:0"
device_type: "CPU"
memory_limit
浏览 19提问于2019-05-01得票数 0
在Azure ML服务中使用TensorFlow估计器，配置如下。 from azureml.core.runconfig import TensorflowConfiguration
distributed_training = TensorflowConfiguration()
distributed_training.worker_count = 3
est = TensorFlow(source_directory=script_folder,
script_params=script_params,
compute_target=
浏览 21提问于2019-09-13得票数 1
我非常有兴趣了解GPU如何并行不同的任务，如实时渲染和训练神经网络。我知道并行化背后的数学原理，但我很想知道GPU到底是如何工作的。实时绘制和训练神经网络是不同的.GPU如何有效地并行这两个任务？
浏览 3提问于2020-05-07得票数 0
回答已采纳
我正在尝试在没有GPU支持的SLF6上运行tensorflow 1.13.1和Python 2.7。当我启动我的模型时，tensorflow似乎正在产生多个子进程，并并行运行我的模型，试图加载系统中的每个核心。虽然在大多数情况下，这可能是一个人想要的，但这不是我的情况。我只想在单核上运行我的模型。 我已经尝试设置了这些变量： export OMP_NUM_THREADS=1
export KMP_BLOCKTIME=0
export KMP_AFFINITY=granularity=fine,verbose,compact,1,0 在不同的组合中，但无法实现单核运行。 有没有办法在“哑巴”单
浏览 32提问于2019-05-07得票数 0
回答已采纳
我正在使用tensorflow在一台机器上训练几个GPU中的模型。然而，我发现速度比在一个GPU上训练要慢得多。我想知道tensorflow是否在不同的GPU中并行地或顺序地执行子模型。例如：
x = 5
y = 2
with tf.device('/gpu:0'):
z1 = tf.multiply(x, y)
with tf.device('/gpu:1'):
z2 = tf.add(x, y)
/gpu:0和/gpu:1中的代码是否按顺序执行？如果按顺序排列，如何使这两个部分并行执行？假设这两个部分不相互依赖。
浏览 2提问于2018-04-02得票数 0
回答已采纳
我是Jetson x2董事会的新手。
我计划在TX2板上运行我的tensorflow-gpu模型，看看它们在那里的表现如何。这些模型是在GTX GPU机上训练和测试的。
在tx2板上，Jetpack full不包含tensorflow。因此，tensorflow需要构建/安装，我已经看过几个教程并尝试过。我的python文件train.py和test.py期望tensorflow-gpu。
现在我怀疑，如果在tx2板上安装tensorflow-gpu是正确的选择吗？
哦，在TX2上有Nvidia TX2，它将完成部分工作，但是怎么做呢？是这样吗？
tensorflow和tensorRT会合作取
浏览 2提问于2018-11-23得票数 1
回答已采纳
我有两个GPU，NVIDIA GTX 1070 Ti。对于在TensorFlow后端使用Keras，我是否应该将它们与SLI连接起来？如果没有，那么他们将被单独对待，一个模型将被训练在一张卡片上。这是我到目前为止所理解的两个选择。谢谢。
浏览 0提问于2019-03-08得票数 2
回答已采纳
1回答
我在一台有两个GPU的机器上运行TensorFlow，每个GPU有3 GB内存。我的批处理大小只有2 2GB，所以可以放在一个GPU上。使用两个GPU(使用CUDA_VISIBLE_DEVICES)进行训练有什么意义吗？如果我这样做了，TensorFlow将如何分发培训？
浏览 15提问于2018-08-08得票数 0
1回答
我有一个关于tensorflow的问题，那就是，对于我想要完成的任务来说，多少有些关键。
我的场景如下: 1.我有一个tensorflow脚本，该脚本已经设置、训练和测试过。它运行得很好。
训练和测试是用2张泰坦X卡在devBox上进行的。
1. We need to now port this system to a live-pilot testing stage and are required to deploy it on a virtual-machine with Ubuntu 14.04 running atop of it.
这就是问题所在-- vm将无法访问
浏览 4提问于2016-08-18得票数 0
回答已采纳
让我们假设我并行地启动以下命令，在同一台机器上同时训练多个TensorFlow模型：
python3 launch_training.py --gpu 0
python3 launch_training.py --gpu 1
python3 launch_training.py --gpu 2
python3 launch_training.py --gpu 3
python3 launch_training.py --gpu 4
python3 launch_training.py --gpu 5
python3 launch_training.py --gpu
浏览 1提问于2018-06-16得票数 2
回答已采纳
我正在尝试实现“多线程”，同时进行训练和预测(测试)。我将使用python模块‘线程’，如所示，下面是一些问题。
如果我使用python模块“线程”，tensorflow是使用更多的gpu还是使用更多的cpu？
我是否必须在tensorflow中生成两个图(具有相同拓扑的神经网络)，一个用于预测，另一个用于训练？或者只制作一个图表可以吗？
我将非常感谢任何能够回答这些问题的人！谢谢!
浏览 4提问于2017-08-08得票数 0
回答已采纳
我正在训练一个深层次的神经网络模型--让我们称之为模型A- -在我的主要训练脚本train.py上使用train.py。此train.py导入utils.py，其中定义了提供培训过程的数据生成器。utils.py还导入other_utils.py，其中创建并初始化了一个经过预先训练的深层神经网络模型-MODEL B-，因为数据生成器使用它来处理培训数据。
模式B的初始化已经使用了大部分GPU内存，给我留下了很少的资源来训练模型A。
导入模式如下所示：
train.py (MODEL A) --> utils.py (data generator) --> other_utils.p
浏览 3提问于2022-01-10得票数 0
回答已采纳
是一个非常好的教程，在TensorFlow中训练序列到序列模型.我只想知道是否有一个分布式版本的，它利用(一组GPU)在单机上获得更好的性能？
已经提到，可以训练一个大型的多层递归神经网络(参见图8和“模型并行训练”部分)。有谁知道目前的教程是否涵盖模型并行培训？如果没有，如何改进最初的教程来利用一组GPU？
浏览 2提问于2016-03-03得票数 2
回答已采纳
1回答
我有一个ASUS n552vw笔记本电脑，有一个4GB专用的Geforce GTX 960图形卡。我把这些代码放在代码的开头，比较使用GPU或CPU的训练速度，我看到似乎使用CPU赢了！
GPU：
import os
os.environ['CUDA_VISIBLE_DEVICES'] = '0'
CPU：
import os
os.environ['CUDA_VISIBLE_DEVICES'] = '-1'
我已经安装了CUDA，cuDNN，tensorflow-gpu等来提高我的训练速度，但似乎相反的事情发生了！
当我尝试第一
浏览 0提问于2019-08-02得票数 2
回答已采纳
让我首先描述集群设置：
我有两个节点(每个节点有2个GPU)。我把它们称为节点A和节点B
每个节点都有自己的SSD存储。
是使用的群集管理器。
我已经看过了分布式TensorFlow文档，但是有一些我无法正确理解的功能基础，因此出现了这个问题。
考虑以下情况：
我在节点A上复制了大约600 GB的数据。
我可以使用OAR专门要求在两个节点上分配4个GPU。
如果我想使用分布式TensorFlow来训练一个模型：
如何为tf.train.ClusterSpec指定网络地址？这些网络地址是什么？在文档中，名称(如localhost:2222 )是否与集群管理
浏览 5提问于2016-11-26得票数 0
1回答
我目前正在开发一个有2个GPU的系统，每个GPU的容量为12 of。我想在两个GPU之间实现模型并行，以训练大型模型。我一直在互联网上浏览，所以，tensorflow文档等等，我能够找到关于模型并行性的解释及其结果，但是我没有找到一个关于如何使用tensorflow实现它的小教程或小代码片段。我的意思是我们必须在每一层之后交换激活，对吗？那我们怎么做呢？在tensorflow中是否有实现模型并行的特定或更清晰的方法？如果您能建议我一个可以学习实现它的地方，或者使用‘模型并行’在多个GPU上进行mnist培训这样的简单代码，那将是非常有帮助的。
注意:我做过类似于CIFAR10 -多gpu教程中
浏览 1提问于2017-02-06得票数 9
回答已采纳
假设我可以在我的带有tensorflow的GTX 1070卡上使用样本大小N、批处理大小M和网络深度L进行培训。现在，假设我想使用更大的样本2N和/或更深的网络2L进行训练，并摆脱内存错误。
插入额外的GPU卡会自动解决这个问题(假设所有GPU卡的总内存量足以容纳批处理及其渐变)吗？还是说纯粹的坦索弗洛是不可能的？
我读到，有比特币或以太矿商，他们可以用多个GPU卡建立采矿场，而且这个矿场的开采速度会更快。
采矿农场也能更好地进行深度学习吗？
浏览 4提问于2017-07-15得票数 2
回答已采纳
2回答
我有2个GPU类型的NVIDIA GTX 1070钛。我想用这样的方式训练更多的模型:一半的模型只在一个GPU上训练，另一半同时在另一个GPU上训练。因此，随着训练的进行，一个模型到GPU1，下一个模型到GPU2，.我不想在这两个GPU上训练一个型号。我在TensorFlow后端使用Keras。你能给我推荐一些资源吗?我能看出来怎么做吗？大多数在线示例/文章只在您想要在两个GPU上分发一个模型时才会涉及到这种情况。谢谢。
浏览 0提问于2019-03-12得票数 0
回答已采纳
1回答
当我在Ubuntu 16.04的pycharm IDE中运行我的tensorflow训练模块时，它没有显示任何使用GPU的训练，它通常使用CPU进行训练。但是当我使用终端运行相同的python脚本时，它使用GPU训练来运行。我想知道如何在Pycharm IDE中配置GPU训练。
浏览 153提问于2017-10-03得票数 1
回答已采纳
我试图在TensorFlow中提高GPU的利用率，但是我发现子图的执行并不是并行的。下面是工作示例(tensorflow版本r.012)：
import tensorflow as tf
import numpy as np
from tensorflow.python.client import timeline
#initialize graph
tf.reset_default_graph()
sess = tf.Session()
# some parameters
input_dim = 10000
output_dim = 100
num_hidden = 10000
batc
浏览 2提问于2017-03-20得票数 1
tensorflow: 1.2.0
gpu: TITAN X (Pascal)
driver: 370.28
我运行了分布式tensorflow来训练图像分类模型，但没有看到gpu使用率(实际上，mnist或其他训练任务的gpu util也是0)。
在训练过程中有许多轮询系统调用( poll fd是/dev/nvidia0)：
poll([{fd=8, events=POLLIN}, {fd=12, events=POLLIN}, {fd=13, events=POLLIN}, {fd=14, events=POLLIN}, {fd=15, events=POLLIN}, {fd=17, e
浏览 4提问于2017-08-15得票数 1
我正在尝试利用转移学习来训练我的模型，在植物图像上检测水稻中的疾病。我尝试使用VGG16，但我无法让它与我的GPU训练。我有一个NVIDIA GeForce MX150。
下面是我用来拟合模型的代码：
import tensorflow as tf
from tensorflow.python.client import device_lib
print(device_lib.list_local_devices())
with tf.device('/device:GPU:1'):
# fit the model
r = model.fit(
浏览 3提问于2020-11-03得票数 0
回答已采纳
1回答
我正在计算nn.Conv2d层内每对内核之间的累积距离。然而，对于大层，它使用12 it内存的泰坦X耗尽内存。我想知道是否有可能将这种计算分为两个gpus。守则如下：
def ac_distance(layer):
total = 0
for p in layer.weight:
for q in layer.weight:
total += distance(p,q)
return total
其中layer是nn.Conv2d的实例，距离返回p和q之间的差异之和，但是我不能分离这个图，因为稍后我需要它。我试着将我的模型封装在nn.Dat
浏览 0提问于2019-04-11得票数 1
在使用TensorFlow时，我编写了以下代码来评估Python多处理的效果：
import tensorflow as tf
from multiprocessing import Process
mydevice = "/gpu:0"
gpu_options = tf.GPUOptions(per_process_gpu_memory_fraction=0.01)
mrange = 1000
def myfun():
with tf.device(mydevice):
mm1 = tf.constant([[float(i) for i in rang
浏览 0提问于2016-07-28得票数 0
我知道在训练DNN时，通常使用多个GPU的方法是拆分数据集，并将每个拆分的数据集分配给每个GPU。
然而，有没有一种方法可以使用多个GPU来更快地计算完整的数据集？我的意思是，当GPU用于训练网络时，矩阵乘法在单个GPU中是并行的。我可以通过同时使用多个GPU来提高矩阵乘法的速度吗？
例如，我只有一张图片用于数据集。因为我没有多张图片可以拆分并分发给多个GPU，所以我希望利用所有GPU来为这一张图片的计算做出贡献。
这在Tensorflow中可能吗？我在网上搜索过，但什么也没找到，因为这是非常罕见的病例。
浏览 0提问于2017-04-17得票数 0
我在Google云上训练了一个巨大的神经网络(尺寸更大、类更多的胶囊网络)。这个网络需要大约400 GB的RAM和4个GPU来训练它而不会崩溃。理论上，我听到的是神经网络可以在普通PC上执行预测。但是，考虑到培训所需的资源如此之多，是否仍有可能下载tensorflow检查点并在我的膝上型计算机上运行网络以进行预测？
浏览 4提问于2020-04-04得票数 1
1回答
当我们在Tensorflow多GPU环境下进行训练时，如何找到测试精度并显示在训练损失旁边的终端上? 1.在单个GPU上能找到测试精度吗? 2.我们应该在所有可用GPU上找到测试精度，然后计算平均值吗？
浏览 2提问于2018-04-10得票数 0
回答已采纳
我们尝试用Tensorflow在两个GTX-1060上训练SeqGAN，但发现它只用于训练/GPU:0。检查log_device_placement后，所有层都连接到GPU:0，没有层使用GPU:1。
搜索之后，我们似乎需要自己将层部署到多个GPU中。(但我们不确定这是否正确。)
我们的问题是，我们能否像这样部署我们的培训工作：
假设BATCH=64
GPU:0:处理0-31批数据
GPU:1:处理32-63批数据
总结这两种设备的结果。
这是Tensorflow的支持吗？我们需要自己实施吗？
SeqGAN：
日志：
浏览 2提问于2017-07-11得票数 1
我在Azure上使用GPU训练了两个文本分类模型。模型如下
伯特(火车)
Word2Vec (tensorflow)
代码的实例可以在这里找到：nlp
我将模型保存到文件(.h5)中供以后使用。文件很大，例如lstm为27,613 gb，伯特为1.2 gb。
我加载了模型，并在只有CPU可用的计算机中。它们都工作得很好，但是model.predict(text)函数预测文本类的速度非常慢，例如，平均每秒有1条tweet大小的消息。
在计算机上添加GPU不是一个选项。我想知道还有什么办法能让它跑得更快吗？例如，以不同的方式训练模型(不影响准确性)，还是以不同的文件格式保存模型？
浏览 0提问于2020-10-15得票数 0
回答已采纳
我想知道在使用TensorFlow训练网络时，多GPU系统的“最佳实践”是什么？
例如，我的一个电视网看起来是这样的：
input
|
(...) <-- convolutional layers
|
_________
fully-connected | | fully-connected
out
浏览 3提问于2016-03-03得票数 8
回答已采纳
我正在尝试使用配备了8个GPU (NVIDIA GeForce RTX2080)的集群来运行。目前，我在training_loop.py中使用以下配置
minibatch_size_dict = {4: 512, 8: 256, 16: 128, 32: 64, 64: 32}, # Resolution-specific overrides.
minibatch_gpu_base = 8, # Number of samples processed at a time by one GPU.
minibatch_gpu_dict = {}
浏览 3提问于2019-12-17得票数 3
1回答
为了评价多GPU训练的效果，我尝试了三种使用角点分割的UNet模型。
First模型在1 GPU (P100)上使用1批大小进行训练。每个训练步骤约254毫秒。(请注意，这是步骤，而不是划时代)，第二模型是使用2个批次大小使用1个GPU (P100)训练的。每个训练步骤采用~399 was，第三模型用2个GPU (P100)进行2批训练。每个训练步骤约370。从逻辑上讲，它应该与第一种情况的时间相同，因为这两个GPU并行处理1批，但花费了更多的时间。
谁能说出多GPU训练是否会缩短训练时间？作为参考，我尝试了所有的模型使用角角。
浏览 2提问于2020-03-24得票数 2
回答已采纳
1回答
我有一个由mxnet gpu支持训练的模型，我将这个模型加载到gpu上。我的问题是，当我多进程时，我得到一个无效的指针error.how来做多处理在mxnet图形处理器支持？
浏览 1提问于2019-10-16得票数 0
我感兴趣的是使用tensorflow slim库(tf.contrib.slim)在训练期间定期对(N)(完整)测试集的模型性能进行评估。文档非常清楚地表明，slim.evaluation.evaluation_loop是可行的，而且看起来很有希望。问题是我没有第二个gpu可用，这个模型参数占用了整个gpu的内存，我想做并发评估。
例如，如果我有两个gpu，我可以在第一个gpu上运行一个以"slim.learning.train()“结尾的python脚本，在第二个gpu上运行另一个以"slim.evaluation.evaluation_loop()”结尾的脚本。
是否有一种
浏览 0提问于2017-09-05得票数 1
回答已采纳
1回答
我首先在我的图形处理器上用python创建了我的TensorFlow代码，使用： import tensorflow-gpu as tf 我把它用于训练目的，一切都进行得很顺利。但是现在，我想在没有GPU的设备上部署我的python脚本。所以，我用pip卸载了tensorflow-gpu，并导入了普通的TensorFlow： import tensorflow as tf 但是当我运行脚本时，它仍然在使用gpu： ? 我试过这段代码： try:
# Disable all GPUS
tf.config.set_visible_devices([], 'GPU
浏览 15提问于2021-01-24得票数 0
我将resnet50 TensorFlow模型转换为TensorRT引擎。当我运行推断时，它只使用我的一个GPU。我有两个RTX3090图形处理器。如何在多个GPU上运行推理？
浏览 9提问于2022-01-31得票数 0
1回答
我使用的是tensorflow-gpu 1.10.0和Keras-GPU2.2.4与Nvidia gtx765M(2GB) GPU，操作系统是Win8.1-64位-16 2GB内存。
我可以使用560x560 pix映像和批处理大小=1来训练网络，但是在训练结束后，当我尝试测试/预测时，我会得到以下错误：
ResourceExhaustedError: OOM when allocating tensor with shape[20,16,560,560] and type float on /job:localhost/replica:0/task:0/device:GPU:0 by all
浏览 0提问于2019-03-19得票数 2
1回答
我们需要使用TensorFlow来训练大型网络，这需要几天才能在GPU上完成。亚马逊提供像p2.16xlarge这样的GPU实例，例如16个GPU (NVIDIA K80)。现在我在想，TensorFlow是否高效地利用了多个GPU，还是使用一个带有一个泰坦X的桌面就像我一样快？
这些GPU实例非常昂贵，因此我希望自己构建一台机器(基于Linux)。SLI似乎没有与CUDA一起工作，所以我一次只能使用一个GPU吗？
浏览 0提问于2017-01-13得票数 0
我有两个GPU，我只想用一个GPU训练一个网络由tensorflow。当我训练它时，代码使用了两个GPU的所有内存，但是只有一个GPU在工作：
我不知道为什么，也不知道如何解决这个问题。
浏览 2提问于2016-12-14得票数 0
回答已采纳
云服务器
ICP备案
实时音视频
对象存储
云直播
腾讯云开发者
