问哪里可以便宜地托管小型GPU机器学习API？

EN

检查VPS智能。我认为这是小型项目的最佳选择之一。从45美元开始。

有不同的可能性：

• 谷歌Colab：它是免费的，包括木星笔记本系统和一个良好的用户界面。它与Google和GitHub集成在一起。你可以在这方面进行合作。GPU和TPU都可用。
• GoogleCloud：比Google更强大和更可定制。有GPU和TPU。
• GoogleCloud上的可抢占实例：可抢占VM提供与常规计算实例相同的机器类型和选项，并持续24小时。他们很适合大多数学习任务。它可以降低您的计算引擎成本高达80%的正常GoogleCloud！
• AWS EC2：即使配置不是最简单的配置，spot实例定价也提供了一种方法，可以节省高达90%的按需价格。

更新：

• Vast.ai：GPU与市场共享经济
• 纸空间也为业余爱好者提供5GB的持久存储和6小时运行时间的免费服务。还有其他计划(200 for永久存储的每月8美元)。计算的每小时价格可用那里 (GPU: 0.5至2.9美元/小时，大部分GPU)

如果您计划托管您的ML项目API，那么我建议您使用一个具有K8s服务功能的平台。这样，它就可以在API上加载时，根据需要自动管理缩放。

否则，你最终会在网上争夺资源。我认为卵云和阿里巴巴声提供了有管理的Kubernetes服务，可能会降低您的需求成本。

如果您的唯一目的是培训ML模型，那么您可以探索如下服务：

1. Q块 -用于ML的分散GPU计算:降低80%的成本
2. 面向ML的纸空间 - GPU优化平台
3. Google -免费，但有很多限制