如何使用python向tensorflow服务器(tensorflow-serving)发送请求？
使用Python向TensorFlow Serving发送请求可以通过以下步骤实现：
- 安装TensorFlow和TensorFlow Serving的Python库。可以使用pip命令进行安装：
pip install tensorflow tensorflow-serving-api- 创建一个Python脚本，并导入必要的库：
import grpc
import tensorflow as tf
from tensorflow_serving.apis import predict_pb2
from tensorflow_serving.apis import prediction_service_pb2_grpc- 设置连接TensorFlow Serving的参数，包括服务器的IP地址和端口号：
server_ip = 'localhost' # TensorFlow Serving服务器的IP地址
server_port = '8500' # TensorFlow Serving服务器的端口号- 创建一个与TensorFlow Serving的gRPC通道：
channel = grpc.insecure_channel(f'{server_ip}:{server_port}')- 创建一个与TensorFlow Serving的Stub对象，用于向服务器发送请求：
stub = prediction_service_pb2_grpc.PredictionServiceStub(channel)- 构建请求消息，并将需要预测的数据传递给请求消息：
request = predict_pb2.PredictRequest()
request.model_spec.name = 'your_model_name' # 指定模型的名称
request.model_spec.signature_name = 'serving_default' # 指定模型的签名名称
# 构建输入数据
request.inputs['input_name'].CopyFrom(tf.make_tensor_proto(your_input_data))在上述代码中，your_model_name是需要预测的模型的名称，serving_default是模型的签名名称，input_name是模型的输入张量名称，your_input_data是需要预测的输入数据。
- 发送请求并接收响应：
response = stub.Predict(request)- 处理响应结果：
output = response.outputs['output_name']
output_data = tf.make_ndarray(output)在上述代码中，output_name是模型的输出张量名称，output_data为响应中的输出数据。
以上是使用Python向TensorFlow Serving发送请求的基本流程。根据具体的应用场景和需求，可以根据TensorFlow Serving的官方文档进一步了解更多高级用法和参数配置。
腾讯云相关产品和产品介绍链接地址：
相关·内容
我是新的tensorflow服务。 我尝试使用python3向tensorflow服务器发送请求(POST)， 但是当我发送请求的时候，我得到了<400>，bad request。但是当我在终端上发送curl时，它是工作。curl -d '{"instances": [3]}' -X POST http://localhost:
浏览 13提问于2019-10-11得票数 1
回答已采纳
我用javaFx在eclipse中编写UI代码，因为我只能使用java，不能使用python，不能使用c。我正在寻找几种方法(API，jython，TCP/IP)，但我不确定哪一种是最好的。
请写出你的意见，其中有更多的优点或较少的缺点。
浏览 0提问于2018-02-06得票数 0
回答已采纳
我试图使用docker组合(服务模型+微服务)运行tensorflow服务，但是tensorflow服务容器失败，错误出现在下面，然后重新启动。.tensorflow-serving| what(): std::bad_alloc
tensorflow-serving | /
浏览 15提问于2022-09-12得票数 0
3回答
我的主机服务器需要一个代理来与外界对话。我运行一个图像tensorflow/tensorflow，容器名为tf1。在tf1内部(通过exec进入容器)，我想用pip安装一些包，比如grpcio和tensorflow-serving api，但是由于网络错误而失败。
如何在容器中使用主机的代理？
浏览 2提问于2017-09-27得票数 4
回答已采纳
我有一个小型的web服务器，它可以获得句子的输入，并且需要使用Tensorflow服务返回模型预测。我使用的是和，使用了Tensorflow服务的初始版本。日志记录确实确认已启用批处理，并且正在使用GPU。
但是，当向服务服务器发送请求时，批处理的效果最小。同时发送50个请求，在时间使用方面几乎是线性的，而发送5个请求<
浏览 0提问于2017-05-29得票数 9
回答已采纳
我正在用Python测试新的Tensorflow对象检测API，并且我成功地使用端口在Windows对象检测API上安装了它。然而，我训练的模型(更快的RCNN resnet101 COCO) 需要15秒才能做出一个预测(虽然非常准确)，可能是因为我只使用了Tensorflow CPU。有了这样的延迟，是否有可能使用tensorflow GPU进行高效的实时视频处理，还是应该使用像YOLO这样更流行的模型？在码头使用tenso
浏览 4提问于2017-07-23得票数 1
2回答
有没有办法用我训练过的模型编译整个Python脚本，以便进行更快的推理？似乎加载Python解释器，所有的Tensorflow，numpy等都需要花费大量的时间。当这种情况必须发生在响应非平凡的请求频率的服务器上时，它看起来很慢。我知道我可以使用Tensorflow服务，但不想因为它的相关成本。
浏览 3提问于2017-09-13得票数 2
回答已采纳
1回答
所以我正在使用tensorflow服务，它包含两个子模块，tf_models和tensorflow。当我开始分叉tensorflow服务，然后克隆我的分叉版本时，当我继续向子模块添加任何文件时，我似乎没有权限。当我在git中添加子模块中的文件，然后继续到root (tensorflow-serving)回购，然后从那里添加并提交/推时，它说所有被推的都很好，但是当我从git中选择子模块时，我会得到一个404错误仔细看，这似乎是一个子模块的问题，该子模块仍然指的是最初的tf_mo
浏览 1提问于2017-01-18得票数 0
回答已采纳
在通过TensorFlow-Serving服务TensorFlow模型时，我需要向客户公开自定义元数据(例如，模型的输入数据需求、训练信息……)。在保存模型之前，我尝试通过tf.add_to_collection( <my_custom_key>, <value> )添加信息，果然，信息显示在服务器使用的.pb(txt)文件中。GET http://localhost:8501/v1/models/<my_model>/meta
浏览 21提问于2019-01-10得票数 3
我已经在Tensorflow (Python，tensorflow 1.9.0和tensorflow-serving 1.9.0)中构建了一个简单的分类器，它将对象分类为5个类之一。classification_signature clear_devices=True, legacy_init_op=legacy_init_op)
当我启动TF服务器时我的问题是如何从客户端向is传递图像。got tensor
浏览 7提问于2018-07-31得票数 3
回答已采纳
我正在尝试制作一个本地使用的html应用程序，包括一个使用Google V3的HTML页面、一个SQLite数据库和一个SimpleHTTPServer脚本。工作流程如下：
当用户单击"Submit“时，页面向HTTPServer发送一个请求，其请求处理程序查询SQLite数据库，并将结果返回为JSON/JSONP&#x
浏览 3提问于2013-11-19得票数 0
嗯，直截了当地说，我有一个python脚本，在给定的URL之后，它从某个网站抓取数据并创建一个excel表，而且，我还有一个正在运行的web服务器，我为用户制作了一个服务器。如何在我的后端上运行那个python脚本，在前面输入要被刮掉的的网站URL？
谢谢!
浏览 1提问于2021-03-08得票数 1
1回答
我有一个任务，用python后端(不是烧瓶)和Vue.js前端在google引擎上构建一个系统。系统需要在()上加载vue.js应用程序(一些基本的hello world应用程序)。我构建了python & yaml端，并将其加载到GAE中，还构建了vue.js端。但是我在如何连接这些部件上花了很长时间，所以python/yaml将在加载url时加载我的应用程序。
浏览 3提问于2018-04-15得票数 4
回答已采纳
1回答
我的控制台返回了以下错误：
跨源请求仅支持协议方案: http、data、chrome、chrome https、https、chrome-。我现在知道我不能在本地访问这个文件，我必须通过外部服务器来访问这个文件。如何使用此文件设置本地服务器？请有人解释一下如何使用python、json-server和节点js来完成它吗？我完全迷路了。
浏览 5提问于2016-08-23得票数 0
回答已采纳
使用请求模块向服务器发送POST/GET请求的Python脚本在该机器上运行。
因此，接下来的问题是:如何在python脚本中知道将从哪个接口请求发送？
浏览 3提问于2016-03-17得票数 1
回答已采纳
我有这段python代码：auth_token = "myAuth"
$.ajax({ url: "file.py",
}).
浏览 13提问于2018-02-18得票数 0
我正在开发一个使用机器学习的应用程序，最近遇到了一个问题。我发现Expo和Python并不能真正协同工作。我认为一个解决方案是在服务器上托管和运行我的机器学习模型(Python)，然后从我的JS Expo应用程序发出请求，我认为这也会有一个隐藏的好处，与只在我的笔记本电脑上相比，处理速度更快。那么，人们能否首先确认这是否可能(从JS Expo应用程序调用在服务器上运行的python代码)，如果可能，那么请提供一些建议，说明我可以在哪里托管它？
浏览 0提问于2021-03-12得票数 0
我关注的是一个启用了brotli压缩的Apache服务器。当我从cli发送curl请求时，它工作得很好。但是，当我从python发送请求时，它返回未经过brotli压缩的纯文本。这意味着它没有使用brotli压缩。有效的Curl命令：以下是python代码：
headers = {b
浏览 4提问于2019-07-30得票数 1
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
实时音视频
对象存储
云直播活动推荐
腾讯云开发者
