2回答
怎样才能最好地使用int8数据类型来运行量化模型呢？我知道在pytorch中我可以将张量定义为，但是，当我真正想要使用int8时，我得到：因此，我很困惑，如何在pytorch中运行量化模型，例如，当计算块(如卷积)不支持数据类型时，如何使用int8？我使用的是
浏览 0提问于2019-03-21得票数 1
回答已采纳
我正在尝试创建一个docker镜像，使其作为服务器运行，为pytorch中的模型提供服务。EXPOSE 8080<em
浏览 41提问于2021-03-10得票数 2
容器化的原因是我试图在一个安装了python3.5的服务器上运行这段代码，但是stanfordnlp需要python3.6+。因此，我的方法是创建一个使用最新python镜像的容器，运行将使用nvidia gpu的python脚本。/lemmatizer.py" ]docker
浏览 23提问于2020-03-17得票数 0
回答已采纳
1回答
我想在远程访问的GPU服务器上使用命令行界面来训练OpenNLP模型。我很熟悉在训练pytorch模型时使用GPU，但我意识到我不确定这将如何与openNLP一起工作，因为它是用java编写的。具体地说，我在想我们在训练pytorch模型时使用的这个熟悉的代码片段： if torch.cuda.is_available():
dev = "cuda:0" 有谁能解释一下java OpenNLP我还使用这个docker镜像在我的远程GPU<e
浏览 25提问于2020-06-16得票数 1
回答已采纳
1回答
我正在构建一个需要tmux的Docker镜像，而不是每次启动容器时都要运行tmux source-file ~/.tmux.conf (那样很疯狂)，我想在构建时生成配置文件。然而，这是不起作用的： ARG PYTORCH="1.6.0"ARG CUDNN="7"
FROM pytorch/pytorch:${PYTORCH}-cuda${
浏览 221提问于2021-10-06得票数 0
回答已采纳
我在Ubuntu18.02机器中通过以下命令运行Py手电对接器容器：docker run -it -v /home/ubuntu/Downloads/docker_work/test_py_app/app:/workspace/app -p 8881:8888 -p 5002:5002 --gpus all --rm nvcr.io/nvidia/
浏览 6提问于2021-02-03得票数 0
回答已采纳
1回答
最近，我开始使用docker图像。我想部署基于PyTorch的文本分类模型，这需要图形处理器来运行。当docker镜像被调用时，它无法在VM中检测到GPU。这是我的基础图像FROM gcr.io/deeplearning-platform-release/pytorch-gpu.1-0。我不知道在docker中安装Nvidia驱动程序需要遵循哪些步骤。
浏览 12提问于2021-03-13得票数 0
我刚开始使用Docker，所以我正在寻找直接的帮助或相关指南的链接。我需要在学校的linux服务器上训练一些深度学习模型，但我不能手动安装pytorch和其他python包，因为我没有root访问权限(sudo)。另一名学生说，他使用docker，并在他的容器中准备好了一切。
我想知道如何将我的代码和相关的包包装到一个容器中，以便推送到linux服务器上，然后运行。
浏览 2提问于2018-06-08得票数 1
我们要做的是模型服务基础设施。我正在比较和。但是我找不到足够的文档来描述google ai服务的特性以及它是如何实现的。似乎gcloud ai-platform versions create可以创建模型版本资源并开始服务，这是我唯一能找到的点。谷歌人工智能服务和kfserving之间的关系是什么？3、关于google ai服务的功能，google ai服务是否提供了中列出的所有功能，如金丝雀部署、解释器、监控等。
谢谢
浏览 20提问于2020-04-16得票数 1
1回答
我已经训练了检测算法，并保存了我最好的模型。现在，我想把我的模型(预培训)转换为C++，并在我的应用程序中使用它。我想知道将pyTorch模型转换为c++的可能方法是什么？
谢谢!
浏览 1提问于2020-01-19得票数 7
回答已采纳
我看了很多关于在本地部署SageMaker模型的帖子，但它们必须绑定到一个亚马逊网络服务笔记本实例，才能在本地运行预测/服务(亚马逊网络服务SageMaker Python SDK)。这违背了完全脱机运行Sagemaker训练模型的实际意图。还有一些人尝试在S3上取消对tar.gz文件的筛选，然后包装要在本地部署的内容。然而，该过程似乎非常局限于某些类型的模型，如XGBoost和MXnet。因此，有没有办法脱机部署SageMaker训练过的模型，而不依赖于Sa
浏览 4提问于2020-02-20得票数 2
2回答
我需要避免从网络下载模型(由于对机器安装的限制)。这是可行的，但它从因特网下载模型我将.pth文件和hubconf.py文件放置在/tmp/文件夹中，并将代码更改为
model = torch.hub.load('/tmp/', '
浏览 89提问于2021-04-28得票数 7
回答已采纳
2回答
现在，我的代码在docker容器中运行，我希望将生成的输出文件(如output.txt)移动到本地(停靠容器之外)。我知道有一个命令可以将文件从docker传输到本地：
#Itried like this inside docker containe
浏览 5提问于2021-07-23得票数 1
回答已采纳
1回答
我在生产环境中部署pytorch模型时遇到问题。作为演示，我构建了一个简单的模型和一个flask应用程序。我把所有东西都放在一个docker容器(pytorch+flask+uwsgi)和另一个用于nginx的容器中。一切都运行得很好，我的应用程序被渲染了，我可以在里面导航了。然而，我导航到启动模型预测的URL，服务器挂起了，似乎没有计算任何东西。usr/src/web/app.log
# minimum
浏览 6提问于2019-05-12得票数 0
在JupyterLab上进行的培训、验证和测试
直到最后(4)为止，所有的台阶看起来都很好。/vertex-ai/training/pytorch-gpu.1-11:latest" for deployment./vertex-ai/training/pytorch-gpu.1-11:latest" for deployment.下面是我创建<e
浏览 20提问于2022-05-08得票数 0
回答已采纳
我正在使用Python3.7和PyTorch 1.0开发一个人脸识别系统。我想使用VGGFace2 Resnet50预训练模型，如描述的作为一个特征提取器。我已经下载了模型和重量。如自述项目所述，我运行以下代码：model = torch.load('resnet50_128_<em
浏览 1提问于2019-03-23得票数 0
回答已采纳
我正在尝试从外部运行一个正在运行的对接程序中运行python作业(来自承载码头运行的同一台本地机器)。当我进入码头并运行代码时，它会像预期的那样创建日志：docker exec -it pytorch_container /bin/bash
我正在运行的随机Python代码(将日志写入同一个目录以查看它是否成功运行you try to divide by zero")
浏览 3提问于2021-03-11得票数 0
回答已采纳
1回答
我一直在使用docker中的TensorFlow和PyTorch来使用Horovod，正如中所解释的那样，在固定数量的容器下，一切都工作得很好
我已经检查了Horovod Elastic Demos ，但它们没有显示如何在运行时更改工作进程的数量。我需要的是知道如何在运行时增加或减少工人的数量？
浏览 3提问于2020-06-16得票数 0
我正在部署一个需要CUDA 10的docker容器中的应用程序。这是运行应用程序使用的一些底层pytorch功能所必需的。但是，主机服务器运行的是docker ce 17，Nvidia-docker v1.0和CUDA版本9，我将无法升级主机。我的印象是，我被主机上可用的v1 nvidia docker运行时和CUDA版本所束缚。
有没有办法在容器上运行CUDA 10，这样我就可以利用这个工具包的功
浏览 49提问于2019-07-13得票数 5
回答已采纳
1回答
我正在运行一个实验管道，用PyTorch和CUDA训练我的模型。= DockerConfiguration(use_docker=True)train_step = PythonScriptStep( inputs=[train_dataset.as_mount()], )
即使我在运行训练脚本时使用的是Standard_NC
浏览 1提问于2021-08-06得票数 1
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
云直播
对象存储
腾讯会议活动推荐
腾讯云开发者
