在 Ubuntu 20.04 中从源代码构建 TensorFlow Serving 是一个相对复杂的过程,需要安装一些依赖项和工具。以下是详细的步骤指南:
首先,确保你的系统是最新的,并安装一些基本的依赖项:
sudo apt-get update
sudo apt-get upgrade
sudo apt-get install -y build-essential curl git python3-dev python3-pip
Bazel 是 TensorFlow Serving 的构建工具。你需要安装特定版本的 Bazel。以下是安装 Bazel 的步骤:
# 添加 Bazel 的 apt 仓库
sudo apt install apt-transport-https curl gnupg -y
curl -fsSL https://bazel.build/bazel-release.pub.gpg | gpg --dearmor >bazel-archive-keyring.gpg
sudo mv bazel-archive-keyring.gpg /usr/share/keyrings
# 添加 Bazel 的 apt 源
echo "deb [signed-by=/usr/share/keyrings/bazel-archive-keyring.gpg] http://storage.googleapis.com/bazel-apt stable jdk1.8" | sudo tee /etc/apt/sources.list.d/bazel.list
# 更新 apt 并安装 Bazel
sudo apt update && sudo apt install bazel-5.0.0
接下来,克隆 TensorFlow Serving 的 GitHub 仓库:
git clone https://github.com/tensorflow/serving.git
cd serving
TensorFlow Serving 需要一些 Python 依赖项。你可以使用 pip
来安装它们:
pip3 install -r tensorflow_serving/tools/pip_package/requirements.txt
现在你可以使用 Bazel 来构建 TensorFlow Serving:
bazel build -c opt tensorflow_serving/...
这个过程可能需要一些时间,具体取决于你的系统性能。
如果你需要构建 TensorFlow Serving 的 Python 包,可以使用以下命令:
bazel build -c opt tensorflow_serving/tools/pip_package:build_pip_package
构建完成后,生成的 Python 包会在 bazel-bin/tensorflow_serving/tools/pip_package/build_pip_package.runfiles/org_tensorflow_serving/tensorflow_serving/tools/pip_package/
目录下。
你可以使用以下命令来创建 Python 包:
./bazel-bin/tensorflow_serving/tools/pip_package/build_pip_package /tmp/tensorflow_serving_pkg
然后你可以使用 pip
安装生成的包:
pip3 install /tmp/tensorflow_serving_pkg/tensorflow_serving_api-*.whl
你可以通过运行以下命令来验证 TensorFlow Serving 是否安装成功:
tensorflow_model_server --version
如果一切顺利,你应该会看到 TensorFlow Serving 的版本信息。
你可以使用以下命令来运行 TensorFlow Serving:
tensorflow_model_server --rest_api_port=8501 --model_name=my_model --model_base_path=/path/to/your/model
将 /path/to/your/model
替换为你的模型的实际路径。
领取专属 10元无门槛券
手把手带您无忧上云