首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

Tensorflow serving(docker):如何获取客户端发送的grpc请求日志?

要获取TensorFlow Serving(Docker)中的gRPC请求日志,您需要执行以下步骤:

  1. 启动TensorFlow Serving容器时,添加环境变量以启用gRPC日志记录。您可以使用-e参数设置TF_CPP_MIN_LOG_LEVEL环境变量为1,以启用gRPC日志记录。
代码语言:javascript
复制
docker run -p 8501:8501 --name tfserving -e TF_CPP_MIN_LOG_LEVEL=1 -t tensorflow/serving:latest
  1. 现在,TensorFlow Serving将记录gRPC请求日志。要查看这些日志,请进入Docker容器:
代码语言:javascript
复制
docker exec -it tfserving bash
  1. 在容器内部,转到日志目录。默认情况下,TensorFlow Serving将日志存储在/var/log/tf_serving目录中。
代码语言:javascript
复制
cd /var/log/tf_serving
  1. 查看gRPC请求日志文件。日志文件名通常类似于model_server.log。您可以使用cat命令查看日志内容:
代码语言:javascript
复制
cat model_server.log

或者,您可以使用tail命令实时查看日志:

代码语言:javascript
复制
tail -f model_server.log
  1. 如果您想要查看特定时间范围的日志,可以使用grep命令过滤日志。例如,要查看包含特定时间戳的日志行,可以执行以下命令:
代码语言:javascript
复制
grep "2022-01-01 12:00:00" model_server.log
页面内容是否对你有帮助?
有帮助
没帮助

相关·内容

  • 《Scikit-Learn、Keras与TensorFlow机器学习实用指南(第二版)》第19章 规模化训练和部署TensorFlow模型

    有了能做出惊人预测的模型之后,要做什么呢?当然是部署生产了。这只要用模型运行一批数据就成,可能需要写一个脚本让模型每夜都跑着。但是,现实通常会更复杂。系统基础组件都可能需要这个模型用于实时数据,这种情况需要将模型包装成网络服务:这样的话,任何组件都可以通过REST API询问模型。随着时间的推移,你需要用新数据重新训练模型,更新生产版本。必须处理好模型版本,平稳地过渡到新版本,碰到问题的话需要回滚,也许要并行运行多个版本做AB测试。如果产品很成功,你的服务可能每秒会有大量查询,系统必须提升负载能力。提升负载能力的方法之一,是使用TF Serving,通过自己的硬件或通过云服务,比如Google Cloud API平台。TF Serving能高效服务化模型,优雅处理模型过渡,等等。如果使用云平台,还能获得其它功能,比如强大的监督工具。

    02
    领券