如何在运行时在tf_serving中添加多个模型，而不卸载以前的模型？

在tf_serving中添加多个模型而不卸载以前的模型，可以通过以下步骤实现：

1. 准备模型：首先，确保你已经准备好了要添加的多个模型。每个模型应该是一个独立的文件夹，包含模型的所有相关文件。
2. 配置模型服务器：在tf_serving的配置文件中，你需要指定每个模型的路径和相关参数。可以使用以下示例作为参考：

model_config_list: {
  config: {
    name: 'model1',
    base_path: '/path/to/model1',
    model_platform: 'tensorflow'
  },
  config: {
    name: 'model2',
    base_path: '/path/to/model2',
    model_platform: 'tensorflow'
  },
  ...
}

在上述示例中，name是模型的名称，base_path是模型文件夹的路径，model_platform是模型的平台（例如，tensorflow）。

1. 启动模型服务器：使用tf_serving的命令行工具启动模型服务器，并指定配置文件的路径。例如：

tensorflow_model_server --port=8500 --rest_api_port=8501 --model_config_file=/path/to/model_config_file

在上述命令中，--port指定模型服务器的端口号，--rest_api_port指定REST API的端口号，--model_config_file指定配置文件的路径。

1. 发送请求：一旦模型服务器启动，你可以通过发送HTTP请求来使用模型。根据你的需求，可以使用不同的客户端库（如Python的requests库）来发送请求。

通过以上步骤，你可以在tf_serving中同时添加多个模型，并且不会卸载以前的模型。每个模型都可以通过指定的名称和端口号来访问。