导入azureml端点中的本地模块
导入azureml端点中的本地模块
提问于 2022-09-13 05:07:25
我正在尝试为azureml模型创建端点。目前我看到的所有示例都使用了库sklearn中的模型，因此从.pkl文件加载模型没有问题。
在我的例子中，我的模型是一个自定义类，我写了我自己的"bert_based_model“。
现在的问题是在编译我的score.py文件时，我得到了一个错误：
ModuleNotFoundError:没有名为“bert_based_model”的模块
如何在azureml端点中导入自定义模型？
谢谢。
回答 1
Stack Overflow用户
回答已采纳
发布于 2022-10-15 20:11:42
假设您有一个包含自定义模型类MyBertModel的脚本my_module.py，则应该将脚本放在端点的source_directory下，并在条目脚本中导入该类。
因此，如果这是您的推理配置：
inference_config = InferenceConfig(
environment=env,
source_directory='./endpoint_source',
entry_script="./score.py",
)./endpoint_source/应该是这样的：
.
└── endpoint_source
├── score.py
├── my_module.py
└── ...您的入口脚本score.py应该是这样的：
from my_module import MyBertModel
# other imports
...
def init():
global model
# load the model here, from pickle file or using the custom class
model = ...
def run(data):
# use the model here to predict on data
...页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接：
https://stackoverflow.com/questions/73703577
复制相关文章
相似问题
以编程方式启动Scala REPL？
使用Ruby REPL以编程方式加载库
以编程方式发送键盘中断
以编程方式中断raw_input
以编程方式中断权限级别继承
添加站长 进交流群
领取专属 10元无门槛券
AI混元助手 在线答疑
关注 腾讯云开发者公众号
洞察 腾讯核心技术
剖析业界实践案例
腾讯云开发者
