我已经将容器推送到容器注册中心,并能够将其部署到kubernetes。运行此容器以测试部署是否正常的最佳方法是什么?我已经阅读了这些文档,并看到我可以设置一个端点,但是,一旦设置了对端点的post请求,我就无法知道如何调用容器。注意,容器承载了一个python脚本,它基本上运行一个ml模型,并输出一个预测。因此,我希望有一种方法来对集群进行api调用来运行容器,并调用一个调用来打印容器的结果。或者,与其设置端点,还有更好的方法来实现这一点呢?
发布于 2022-02-24 05:03:47
·将端点设置为Kubernetes容器以访问容器并在容器中执行python脚本是一种很好的方法。
·正如Microsoft文档中所建议的,我们可以通过三个选项在AKS前面部署API管理。您可以在文档中提供的图片中看到相同的内容。
·使用Kubernetes集群配置API后,可以将模型部署到Azure Kubernetes服务集群,为此,需要创建描述所需计算资源的部署配置。例如,内核和内存的数量。您还需要一个推理配置,它描述了承载模型和web服务所需的环境。有关创建推理配置的更多信息,请参见如何和在何处部署模型。
有关如何部署和引用python模型的更多信息,请参阅以下文档:
https://learn.microsoft.com/en-us/azure/machine-learning/how-to-deploy-and-where?tabs=azcli
https://stackoverflow.com/questions/71231971
复制