首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

如何在Ubuntu - 20.04中从源代码构建Tensorflow服务?

在 Ubuntu 20.04 中从源代码构建 TensorFlow Serving 是一个相对复杂的过程,需要安装一些依赖项和工具。以下是详细的步骤指南:

1. 安装基本依赖项

首先,确保你的系统是最新的,并安装一些基本的依赖项:

代码语言:javascript
复制
sudo apt-get update
sudo apt-get upgrade
sudo apt-get install -y build-essential curl git python3-dev python3-pip

2. 安装 Bazel

Bazel 是 TensorFlow Serving 的构建工具。你需要安装特定版本的 Bazel。以下是安装 Bazel 的步骤:

代码语言:javascript
复制
# 添加 Bazel 的 apt 仓库
sudo apt install apt-transport-https curl gnupg -y
curl -fsSL https://bazel.build/bazel-release.pub.gpg | gpg --dearmor >bazel-archive-keyring.gpg
sudo mv bazel-archive-keyring.gpg /usr/share/keyrings

# 添加 Bazel 的 apt 源
echo "deb [signed-by=/usr/share/keyrings/bazel-archive-keyring.gpg] http://storage.googleapis.com/bazel-apt stable jdk1.8" | sudo tee /etc/apt/sources.list.d/bazel.list

# 更新 apt 并安装 Bazel
sudo apt update && sudo apt install bazel-5.0.0

3. 克隆 TensorFlow Serving 源代码

接下来,克隆 TensorFlow Serving 的 GitHub 仓库:

代码语言:javascript
复制
git clone https://github.com/tensorflow/serving.git
cd serving

4. 安装 TensorFlow Serving 的 Python 依赖项

TensorFlow Serving 需要一些 Python 依赖项。你可以使用 pip 来安装它们:

代码语言:javascript
复制
pip3 install -r tensorflow_serving/tools/pip_package/requirements.txt

5. 构建 TensorFlow Serving

现在你可以使用 Bazel 来构建 TensorFlow Serving:

代码语言:javascript
复制
bazel build -c opt tensorflow_serving/...

这个过程可能需要一些时间,具体取决于你的系统性能。

6. 构建 TensorFlow Serving 的 Python 包

如果你需要构建 TensorFlow Serving 的 Python 包,可以使用以下命令:

代码语言:javascript
复制
bazel build -c opt tensorflow_serving/tools/pip_package:build_pip_package

构建完成后,生成的 Python 包会在 bazel-bin/tensorflow_serving/tools/pip_package/build_pip_package.runfiles/org_tensorflow_serving/tensorflow_serving/tools/pip_package/ 目录下。

你可以使用以下命令来创建 Python 包:

代码语言:javascript
复制
./bazel-bin/tensorflow_serving/tools/pip_package/build_pip_package /tmp/tensorflow_serving_pkg

然后你可以使用 pip 安装生成的包:

代码语言:javascript
复制
pip3 install /tmp/tensorflow_serving_pkg/tensorflow_serving_api-*.whl

7. 验证安装

你可以通过运行以下命令来验证 TensorFlow Serving 是否安装成功:

代码语言:javascript
复制
tensorflow_model_server --version

如果一切顺利,你应该会看到 TensorFlow Serving 的版本信息。

8. 运行 TensorFlow Serving

你可以使用以下命令来运行 TensorFlow Serving:

代码语言:javascript
复制
tensorflow_model_server --rest_api_port=8501 --model_name=my_model --model_base_path=/path/to/your/model

/path/to/your/model 替换为你的模型的实际路径。

页面内容是否对你有帮助?
有帮助
没帮助

相关·内容

领券