文档建议反馈控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

如何在Ubuntu - 20.04中从源代码构建Tensorflow服务？

在 Ubuntu 20.04 中从源代码构建 TensorFlow Serving 是一个相对复杂的过程，需要安装一些依赖项和工具。以下是详细的步骤指南：

1. 安装基本依赖项

首先，确保你的系统是最新的，并安装一些基本的依赖项：

代码语言：javascript
复制
sudo apt-get update
sudo apt-get upgrade
sudo apt-get install -y build-essential curl git python3-dev python3-pip

2. 安装 Bazel

Bazel 是 TensorFlow Serving 的构建工具。你需要安装特定版本的 Bazel。以下是安装 Bazel 的步骤：

代码语言：javascript
复制
# 添加 Bazel 的 apt 仓库
sudo apt install apt-transport-https curl gnupg -y
curl -fsSL https://bazel.build/bazel-release.pub.gpg | gpg --dearmor >bazel-archive-keyring.gpg
sudo mv bazel-archive-keyring.gpg /usr/share/keyrings

# 添加 Bazel 的 apt 源
echo "deb [signed-by=/usr/share/keyrings/bazel-archive-keyring.gpg] http://storage.googleapis.com/bazel-apt stable jdk1.8" | sudo tee /etc/apt/sources.list.d/bazel.list

# 更新 apt 并安装 Bazel
sudo apt update && sudo apt install bazel-5.0.0

3. 克隆 TensorFlow Serving 源代码

接下来，克隆 TensorFlow Serving 的 GitHub 仓库：

代码语言：javascript
复制
git clone https://github.com/tensorflow/serving.git
cd serving

4. 安装 TensorFlow Serving 的 Python 依赖项

TensorFlow Serving 需要一些 Python 依赖项。你可以使用 pip 来安装它们：

代码语言：javascript
复制
pip3 install -r tensorflow_serving/tools/pip_package/requirements.txt

5. 构建 TensorFlow Serving

现在你可以使用 Bazel 来构建 TensorFlow Serving：

代码语言：javascript
复制
bazel build -c opt tensorflow_serving/...

这个过程可能需要一些时间，具体取决于你的系统性能。

6. 构建 TensorFlow Serving 的 Python 包

如果你需要构建 TensorFlow Serving 的 Python 包，可以使用以下命令：

代码语言：javascript
复制
bazel build -c opt tensorflow_serving/tools/pip_package:build_pip_package

构建完成后，生成的 Python 包会在 bazel-bin/tensorflow_serving/tools/pip_package/build_pip_package.runfiles/org_tensorflow_serving/tensorflow_serving/tools/pip_package/ 目录下。

你可以使用以下命令来创建 Python 包：

代码语言：javascript
复制
./bazel-bin/tensorflow_serving/tools/pip_package/build_pip_package /tmp/tensorflow_serving_pkg

然后你可以使用 pip 安装生成的包：

代码语言：javascript
复制
pip3 install /tmp/tensorflow_serving_pkg/tensorflow_serving_api-*.whl

7. 验证安装

你可以通过运行以下命令来验证 TensorFlow Serving 是否安装成功：

代码语言：javascript
复制
tensorflow_model_server --version

如果一切顺利，你应该会看到 TensorFlow Serving 的版本信息。

8. 运行 TensorFlow Serving

你可以使用以下命令来运行 TensorFlow Serving：

代码语言：javascript
复制
tensorflow_model_server --rest_api_port=8501 --model_name=my_model --model_base_path=/path/to/your/model

将 /path/to/your/model 替换为你的模型的实际路径。

相关搜索:从源代码构建Tensorflow服务时出错从源代码构建Tensorflow 2.0从源代码构建Tensorflow集线器失败如何从源代码构建Debian/Ubuntu包？从源代码构建tensorflow时出现Cuda位置错误从源代码构建TensorFlow r1.13时出现问题在Ubuntu 18.04上从源代码构建Python 3.2，configure说: configure: WARNING如何在 linux 中升级从源代码构建的包？如何在solaris上从源代码构建64位python如何在Windows10中从源代码构建flann？如何在Ubuntu服务器18.04中安装tensorflow 1.15.0我想使用Tensorflow Xcode API，但是在我从源代码构建Tensorflow之后，我应该如何在C++中链接库？如何在C++中包含从源代码构建的库？[LINUX]如何在Ubuntu16.04服务器中通过源代码安装Node.Js？我必须从Ubuntu18.04上的源代码构建clang-11才能让OpenMP GPU目标卸载吗？如何在我的Ubuntu18.10服务器上部署使用ParcelJS构建的web应用程序？如何在Mapstruct生成的源代码上禁用派生标志，以及如何只在本地PC上生成Mapstruct类而不是在构建服务器上生成Mapstruct类？
相关搜索:
页面内容是否对你有帮助？
有帮助
没帮助

相关·内容

如何在Ubuntu 16.04上从源代码安装Go

准备 要学习本教程，您需要： 一个Ubuntu 16.04服务器，已经设置好一个可以使用sudo命令的非root的账户，服务器的内存大于1G。 已安装Git （可选）GitHub帐户。...没有服务器的用户可以购买和使用腾讯云服务器或者直接在腾讯云实验室Ubuntu服务器上机安装Go 。 第1步 - 安装依赖项 在开始之前，更新一下本地的软件包。...$ sudo apt-get update 默认情况下，Ubuntu没有提供搭建Go所需的所有软件包，例如编译器，库和工具。...$ sudo apt-get install build-essential 安装完成后，您将拥有从源代码搭建Go所需的所有工具。接下来，您需要Go 1.4二进制文件。...$ mv go go1.4 现在，您拥有从源代码搭建Go的必要依赖项。如果要将Go 1.4从主目录移到另一个位置，可以继续下一步。不过不想移动，就可以直接到步骤4，获取Go Source。

1.2K30

在ROS中使用Matlab应用

通过不断的开发和社区贡献，我们希望增加新的功能，如TSDF支持，以及最近推出的新功能，如分布式映射和地标支持。.../pi.html 镜像附带Ubuntu 16.04（LXDE）和ROS Kinetic。...该软件包支持几种Tensorflow安装方式： 它可以从Python的pip安装的文件中“窃取”，因此只需通过pip安装Tensorflow就足以获得C ++ API！...它支持tensorflow_catkin 它支持使用bazel的自定义构建 好处是，根据tensorflow_ros_cpp你不要强迫你的包的用户进入任何特定种类的Tensorflow安装，他可以自由选择...请记住StockBot是如何在这里工作的。 4）展望未来：人性化研究 具有全身控制应用的REEM-C类人机器人。 1.65米高的双足平台REEM-C正用于服务和协作机器人的研究领域。

73730

    • TensorFlow 智能移动项目：1~5

    我们将介绍在 MacOS X El Capitan（10.11.6），macOS Sierra（10.12.6）和 Ubuntu 16.04 上从源代码安装 TensorFlow 1.4 的步骤。...但是由于我们必须使用 TensorFlow 源代码构建 iOS 和 Android TensorFlow 应用，因此我们不妨从源代码构建 TensorFlow 本身，在这种情况下，使用本机 PIP 安装选择可能比其他选择更容易...总结 在本章中，我们介绍了如何在 Mac 和 Ubuntu 上安装 TensorFlow 1.4，如何在 Ubuntu 上设置具有成本效益的 NVIDIA GPU 以便进行更快的模型训练以及如何为移动...入门”中的内容，“如何从源代码获取和设置 TensorFlow”。...TensorFlow 手动构建的库，如“以惊人的艺术样式迁移图片”的步骤 1 中所述。

    4.5K20

    TensorFlow R1.2 中文文档

    pageId=10030122 TensorFlow R1.2 中文文档 安装 在Ubuntu上安装TensorFlow 在Mac OS X上安装TensorFlow 在Windows上安装TensorFlow...从源安装TensorFlow 过渡到TensorFlow 1.0 安装TensorFlow for Java 安装TensorFlow for Go 安装TensorFlow for C 发展 开始使用...，初始化，保存和加载 张量等级，形状和类型 共享变量 线程和队列 阅读数据 Supervisor: 长期训练的训练帮手 TensorFlow Debugger（tfdbg）命令行界面教程：MNIST 如何在...教程 使用GPU 图像识别 如何重新启动新类别的最终层 TF图层指南：构建卷积神经网络 卷积神经网络 字的矢量表示 循环神经网络 序列到序列模型 具有TensorFlow的大规模线性模型 TensorFlow...使用JIT编译 操作语义 形状和布局 使用AOT编译 API文档【r1.1】 部署 TensorFlow服务 分布式TensorFlow 如何在Hadoop上运行TensorFlow 延伸 TensorFlow

    1.8K70

    从零开始：深度学习软件环境安装指南

    选自Medium 机器之心编译 参与：路雪、李泽南 在搭建深度学习机器之后，我们下一步要做的就是构建完整的开发环境了。...本文将向你解释如何在一台新装的 Ubuntu 机器上安装 Python 和 Nvidia 硬件驱动、各类库和软件包。...安装英伟达 GPU 驱动 在安装完 Ubuntu 后，你可能会发现屏幕的分辨率不对，而且不能修改，这是因为现在还没有安装 GPU 驱动。 安装驱动有两种方法：从 Ubuntu 资源库和数据源。...Reference：https://launchpad.net/~graphics-drivers/+archive/ubuntu/ppa 从英伟达网站安装 v384.90（较难的方法） 从英伟达网站下载最新的驱动程序版本...虽然阅读文档和源代码都非常耗费时间，但了解每个软件包的构建和功能是非常具有启发性的，它也可以帮助我们理解整个 Ubuntu 生态系统。 希望本文对你有所帮助。 ?

    1.4K80

    使用Docker镜像

    写在前面 镜像是Docker三大核心概念中最重要的一部分，而Docker运行容器前需要本地存在对应的镜像，如果镜像不存在，Docker会尝试从默认的镜像仓库中下载（默认使用Docker Hub公共注册服务器的仓库...既然镜像这么重要，那么本篇就围绕镜像这一核心概念来具体介绍相关操作：（1）如何使用pull命令从Docker Hub仓库中下载镜像到本地；（2）如何查看本地已有的镜像信息和管理镜像标签；（3）如何在远端仓库中使用...举个例子，假设从网易蜂巢的镜像源来下载ubuntu:18.04的镜像，此时可以使用的命令如下： docker pull hub.c.163.com/public/ubuntu:18.04 当然这个pull...TAG信息只是用来标记来自同一仓库的不同镜像，如ubuntu仓库的多个镜像，则使用TAG消息来区分不同的发行版本，如18.04、20.04等。...[OK] opensciencegrid/tensorflow-gpu TensorFlow GPU set up for OSG 12 从返回结果中可以看到有关镜像的基本信息

    1.3K10

    安装 TensorFlow安装 TensorFlow

    安装 TensorFlow 我们已在如下配置的 64 位笔记本电脑/台式机操作系统中构建并测试过 TensorFlow： MacOS X 10.11 (El Capitan) 或更高版本 Ubuntu...下列指南介绍了如何安装让您可以使用 Python 编写应用的 TensorFlow 版本： 在 Ubuntu 上安装 TensorFlow 在 macOS 上安装 TensorFlow 在 Windows...上安装 TensorFlow 从源代码安装 TensorFlow Python TensorFlow API 的许多方面都已从版本 0.n 升级为 1.0。...以下指南介绍了如何将旧版 TensorFlow 应用迁移到版本 1.0： 转换到 TensorFlow 1.0 下列指南介绍了如何安装 TensorFlow 库以搭配其他编程语言使用。...安装适用于 Java 的 TensorFlow 安装适用于 C 的 TensorFlow 安装适用于 Go 的 TensorFlow

    4.5K20

    使用Docker镜像

    写在前面 镜像是Docker三大核心概念中最重要的一部分，而Docker运行容器前需要本地存在对应的镜像，如果镜像不存在，Docker会尝试从默认的镜像仓库中下载（默认使用Docker Hub公共注册服务器的仓库...既然镜像这么重要，那么本篇就围绕镜像这一核心概念来具体介绍相关操作：（1）如何使用pull命令从Docker Hub仓库中下载镜像到本地；（2）如何查看本地已有的镜像信息和管理镜像标签；（3）如何在远端仓库中使用...举个例子，假设从网易蜂巢的镜像源来下载ubuntu:18.04的镜像，此时可以使用的命令如下： docker pull hub.c.163.com/public/ubuntu:18.04 当然这个pull...TAG信息只是用来标记来自同一仓库的不同镜像，如ubuntu仓库的多个镜像，则使用TAG消息来区分不同的发行版本，如18.04、20.04等。...[OK] opensciencegrid/tensorflow-gpu TensorFlow GPU set up for OSG 12 从返回结果中可以看到有关镜像的基本信息

    1K40

    TensorFlow下载与安装

    TensorFlow可被用于语音识别或图像识别等多项机器深度学习领域，对2011年开发的深度学习基础架构DistBelief进行了各方面的改进，它可在小到一部智能手机、大到数千台数据中心服务器的各种设备上运行...本文通过参考博客，并经过亲身搭建来讲解如何在Windows和mac环境下搭建TensorFlow开发环境。 安装前准备 TensorFlow 有两个版本：CPU 版本和 GPU 版本。...我们额外提供了 下面的容器, 该容器同样可以通过上述 docker run 命令安装: b.gcr.io/tensorflow/tensorflow-full 镜像中的 TensorFlow 是从源代码完整安装的...在该镜像上, 可以直接使用源代码进行实验, 而不需要再安装上述的任何依赖。 基于 VirtualEnv 的安装 推荐使用 virtualenv 创建一个隔离的容器, 来安装 TensorFlow....从源码安装 克隆 TensorFlow 仓库，使用如下命令克隆项目。

    1.9K100

    手把手教你安装深度学习软件环境（附代码）

    本文向你解释如何在一台新装的 Ubuntu 机器上安装 Python 和 Nvidia 硬件驱动、各类库和软件包。...本文将指导你安装 操作系统（Ubuntu） 4 种驱动和库（GPU 驱动、CUDA、cuDNN 和 pip） 5 种 Python 深度学习库（TensorFlow、Theano、CNTK、Keras...安装英伟达 GPU 驱动 在安装完 Ubuntu 后，你可能会发现屏幕的分辨率不对，而且不能修改，这是因为现在还没有安装 GPU 驱动。 安装驱动有两种方法：从 Ubuntu 资源库和数据源。...Reference：https://launchpad.net/~graphics-drivers/+archive/ubuntu/ppa 从英伟达网站安装 v384.90（较难的方法） 从英伟达网站下载最新的驱动程序版本...虽然阅读文档和源代码都非常耗费时间，但了解每个软件包的构建和功能是非常具有启发性的，它也可以帮助我们理解整个 Ubuntu 生态系统。 希望本文对你有所帮助。 编辑：文婧

    1.4K80

    GitHub项目推荐 | NNI：微软发布的开源神经架构搜索or超参调优AutoML工具包

    该工具调度并运行由优化算法生成的试验作业，以在不同的环境(如本地机器、远程服务器和云)中搜索最佳的神经体系结构和/或超参数。...谁可以考虑用NNI 那些想在它们的本地机器上的训练代码（或模型）里尝试不同的AutoML算法的人； 那些想在不同环境中能够运行AutoML试验作业以加快搜索速度的人（例如远程服务器和云）； 想实现自己的...上构建的实验。...请确保在运行之前安装了TensorFlow。 通过克隆源代码下载以下示例。...要为NNI开发设置环境，请参阅说明：设置NNI开发人员环境 在开始编码之前，请查看并熟悉NNI代码贡献指南：贡献 我们正在构建如何调试的指导，也欢迎您在此方面提出问题或建议。

    2K30

    手把手教你开发人工智能微信小程序(0)：构建tfjs

    本文将介绍如何从源码构建出 TensorFlow JS 库(tfjs)。对于大多数微信小程序开发者而言，并不需要经历这一步，要做的仅仅是把编译好的 tfjs 库加入微信小程序工程中。...安装yarn tfjs 采用了 yarn 构建系统，对于前端开发者而言应该比较熟悉。下面简单说说如何在 Ubuntu 18.04 上安装 yarn ，其它平台上的安装方法，请自行搜索。...update sudo apt install yarn 检查 yarn 是否安装成功，如下命令输出 yarn 的版本号： yarn --version 当前输出的版本号为： 1.21.1 需要注意的是， Ubuntu...构建tfjs库 克隆 tfjs 源码库： git clone https://github.com/tensorflow/tfjs.git 构建 tfjs cd tfjs/tfjs yarn build-npm...小结 本文介绍了如何从源码构建 tfjs 库，对于大多数微信小程序开发者而言并不需要，但如果你希望裁剪和定制 tfjs ，就可能需要从源码构建。

    1.2K10

    使用Docker镜像

    写在前面 镜像是Docker三大核心概念中最重要的一部分，而Docker运行容器前需要本地存在对应的镜像，如果镜像不存在，Docker会尝试从默认的镜像仓库中下载（默认使用Docker Hub公共注册服务器的仓库...既然镜像这么重要，那么本篇就围绕镜像这一核心概念来具体介绍相关操作：（1）如何使用pull命令从Docker Hub仓库中下载镜像到本地；（2）如何查看本地已有的镜像信息和管理镜像标签；（3）如何在远端仓库中使用...举个例子，使用docker pull ubuntu:18.04命令其实就相当于执行docker pull register.hub.docker.com/ubuntu:18.04命令，即从默认的注册服务器...TAG信息只是用来标记来自同一仓库的不同镜像，如ubuntu仓库的多个镜像，则使用TAG消息来区分不同的发行版本，如18.04、20.04等。...[OK] opensciencegrid/tensorflow-gpu TensorFlow GPU set up for OSG 12 从返回结果中可以看到有关镜像的基本信息

    58540

    【TensorFlow2.x开发—基础】 简介、安装、入门应用案例

    参考：https://www.tensorflow.org/ 1.2）TensorFlow 特点 轻松地构建模型：使用 Keras 等直观的高阶 API 轻松地构建和训练机器学习模型，该环境使我们能够快速迭代模型并轻松地调试模型...强大的研究经验：一个简单而灵活的架构，可以更快地将新想法从概念转化为代码，然后创建出先进的模型，并最终对外发布。...2.0 ps：目前最新版本是TensorFlow2.5.0 1.4）TensorFlow2.0 框架 ​ 1、多种环境支持 可运行于移动设备、个人计算机、服务器、集群等 云端、本地、浏览器、移动设备...相关链接 TensorFlow 开源代码 TensorFlow博客 二、安装TensorFlow pip方式安装 2.1）支持系统 Ubuntu 16.04 或更高版本 Windows 7 或更高版本.../install/docker 源代码构建 官方已经很详细了，建议直接参考官方的教程。

    1.1K00

    Ubuntu 包管理的 20 个“apt-get”命令

    然而，从 Ubuntu 16.04 和 Debian 9 开始，apt 命令成为推荐的包管理命令行工具，尽管 apt-get 仍然可用且功能齐全。 什么是 apt-get 命令？...更新Ubuntu系统包 “update”命令用于从 /etc/apt/sources.list 文件中指定的源重新同步包索引文件。更新命令从其位置获取包并将包更新到较新的版本。...从源代码编译 Ubuntu 软件包 您还可以使用选项“--compile”同时下载、解压和编译源代码，如下所示。...安装包的构建依赖项 ‘build-dep’命令搜索系统中的本地存储库并安装curl包的构建依赖项。如果本地存储库中不存在该包，它将返回错误代码。...如何在多个 Linux 服务器上运行多个命令 Reference [1] Source: https://www.tecmint.com/apt-get-command/

    53450
    点击加载更多

    扫码

    添加站长 进交流群

    领取专属 10元无门槛券

    手把手带您无忧上云

    扫码加入开发者社群

    相关资讯

    热门标签

    更多标签

    活动推荐

      运营活动

      活动名称
      广告关闭

      腾讯云开发者

      扫码关注腾讯云开发者

      扫码关注腾讯云开发者

      领取腾讯云代金券

      热门产品

      热门推荐

      更多推荐

      Copyright © 2013 - 2024 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有

      深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 深公网安备号 44030502008569

      腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号 | 京公网安备号11010802020287

      领券