我正在阅读tensorflow代码，并遇到了这个答案
非常想知道细节？
浏览 1提问于2018-01-18得票数 2
我正在运行类似于的分布式tensorflow培训，但使用这个设备设置器： clusterps作业仅在CP
浏览 6提问于2016-05-24得票数 0
回答已采纳
3回答
我读过，它提到在异步训练中，
图的每个副本都有一个独立的训练循环，没有协调地执行。据我所知，如果我们使用具有数据并行结构的参数服务器，这意味着每个工作人员计算梯度并更新自己的权重，而不关心其他工作人员对分布式训练神经网络的更新。由于所有权重都是在参数服务器( ps )上共享的，我认为ps仍然必须以某种方式协调(或聚合)所有工作人员的权重更新。我想知道在异步<em
浏览 3提问于2017-03-31得票数 27
回答已采纳
我对分布式计算的世界还是比较陌生的。我正在阅读官方tensorflow教程中的，但我对教程的主要示例中发生的事情感到相当困惑。
特别是，ps作业和工作人员是如何交互的？ps作业的作用到底是什么？它们在代码中的相应部分相当有限，而且它们似乎没有做太多事情，那么它们的目的是什么呢？我想我不明白我们
浏览 0提问于2017-09-06得票数 0
我读过和，但对于使用TensorFlow及其参数服务器体系结构所能完成的分布式培训背后的动态，我仍然有一些疑问。这些读取与任何并发写入都不协调，并且没有获得锁:特别是，工作人员可能看到来自一个或多个其他工作人员的部分更新(例如，来自另一个工作人员的更新的子集可能已经应用，或者变量中的元素的子集可能已经被更新)。工作人员将每个变量
浏览 1提问于2018-03-07得票数 3
回答已采纳
我试图了解参数服务器(PS)是如何在亚马逊SageMaker上的Tensorflow中进行分布式培训的。的文档，似乎可以使用设备作用域将变量分配给特定的工作人员。但是，在SageMaker上运行培训作业时，我从未见过这样的情况。不知何故，Tensorflow或SageMaker容器能够决定每个层的变量应该存储在哪里。但是，我在容
浏览 4提问于2020-02-10得票数 0
回答已采纳
并行执行多个tf.Session()的官方方法是使用tf.train.Server，如中所述。另一方面，下面的工作是针对Keras的，并且可以修改为Tensorflow，而不需要根据使用。def _training_worker(train_params): model = obtain_model(train_params) training_process = multipr
浏览 0提问于2018-01-31得票数 3
回答已采纳
= logging.getLogger(__name__)
PARAMETER_SERVER = "ps"
$
浏览 3提问于2017-03-29得票数 5
回答已采纳
1回答
所以我试着学习在tensorflow的分布式训练。为了练习自己，我尝试了来自的代码import sys
worker_hosts = FLAGS.worker_hosts.split(",")
# Create a
浏览 0提问于2018-05-10得票数 1
回答已采纳
1回答
我正在尝试获得使用tf.contrib.learn.Estimator和自定义模型函数来执行分布式培训的模型。我发现一些指出，新的Estimator“处理大多数复杂的分布式模型训练和评估逻辑”。这是否意味着各种工人/ps作业</e
浏览 2提问于2017-05-12得票数 0
回答已采纳
1回答
当使用同步的图形复制时，我只调用tf.Session.run()一次。问题1:是否仍然必须为每个工作人员创建一个新的会话对象，并且必须将主服务器(调用tf.Session.run()的服务器)的URL作为会话目标传递？问题2:可以通过使用server.target为每个服务器获取会话目标，还是必须具体指定主服务器的URL？
浏览 2提问于2016-09-02得票数 1
回答已采纳
(我们做了一些小调整，更新了一些不推荐使用的过程调用)。当我们使用自己的脚本运行程序时：
python /home/alarm/src/tensorflow/tf_mnist_example/examples.py --作业名称=“ps”--索引数据=0&对于{1..7}中的i，执行ssh _ -o "BatchMode yes“alarm@rpi0$i python &#x
浏览 2提问于2017-04-12得票数 0
1回答
我正在尝试跨三台机器运行一个分布式Tensorflow脚本:运行参数服务器的本地机器和两台我可以访问正在运行的工人作业的远程机器。我正在跟踪Tensorflow文档中的，将IP地址和唯一端口号传递给每个工人作业，并将tf.train.Server中的protocol选项设置为'grpc'。此代码导致两个问题：
这两个工人的工作都会出现错误，无法从另一个工作<
浏览 0提问于2018-04-10得票数 0
还不完全清楚参数服务器如何知道在分布式张量流培训中应该做什么。例如，在此中，以下代码用于配置参数服务器和工作任务： server.join() ##some training code
server.join()如何指示给定的任务应该是参数服务器？参数是否服务于任务的</
浏览 2提问于2016-12-05得票数 4
回答已采纳
在这个中，有人提到：
TL;DR: TensorFlow对“参数服务器”一无所知，但它支持在不同进程中跨多个设备运行图形。这些进程中有一些设备的名称以"/job:ps"开头，这些设备保存变量。工作人员驱动培训过程，当他们运行train_op时，将导致"&#
浏览 3提问于2017-05-17得票数 4
我对GCP上的云计算完全陌生。我在创建集群时安装了TonY (Tensorflow on Yarn)，以便能够在集群上运行tensorflow。为了在我的keras模型上运行分布式tensorflow，我不得不创建tf.train.ClusterSpec部分。什么是worker和ps节点，以及如何将它们引用到我在GCP Dataproc中创建的集群中的主节点和辅助节点。当我也创建一
浏览 0提问于2019-02-21得票数 3
回答已采纳
由于Hadoop Cloudera部署在基础架构节点和数据节点中工作，Tensorflow应该使用相同的硬件配置部署在哪里？在基础设施节点还是数据节点？因为Tensorflow需要GPU，所以需要知道在哪里部署，这样我才能知道要添加GPU的节点。
浏览 1提问于2017-04-06得票数 0
据我所知，"worker“和"PS”之间会有很多通信开销。原因是每个工人没有存储在"PS“中的那些”变量“的本地副本，这实际上在训练期间引入了更多的通信，以从"PS”检索变量，计算中间结果并将它们发送回"PS“以更新这些张量”变量“。现在，如果我们不遵循规则，我们将采用"DistBelief“架构:所有共
浏览 0提问于2017-10-07得票数 0
我对tensorflow的分布式训练过程感到困惑。如果我只有两个工人，我认为正确的过程应该是这样的。为什么worker1不打印步骤200？tensorflow<e
浏览 5提问于2016-12-09得票数 5
1回答
使用，我成功地在码头容器中使用Tensorflow对象检测API创建了一个关于sagemaker的培训作业。现在我想用sagemaker来监控培训工作，但是找不到任何解释该如何做的东西。我想我可以通过将日志保存到一个S3桶中，并指向一个本地的张量板实例。但是不知道如何告诉tensorflow对象检测API在哪里保存日志(这有命令行参数吗?)事实是，当我开始培训工作时，在工作完成并上
浏览 2提问于2020-05-25得票数 2
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
腾讯会议
云直播
对象存储活动推荐
腾讯云开发者
