在哪里便宜地托管小型GPU机器学习API

编程问答 2022-06-03

问题描述

我正在尝试制作一些新的Web API，这些API将极大地受益于针对已完成/训练有素的机器学习模型的GPU处理。我想将其设为公开可用的端点。但是我不知道在哪里托管机器学习兴趣项目API的现实位置？如果有更好的方法（即在处理API请求的同时仅使用GPU，这种情况很少见），我也很乐意。

AWS定价https://aws.amazon.com/ec2/pricing/on-demand/

我看到的最便宜的是每小时$ 0.50，大约是每月$ 350

Google云定价https://cloud.google.com/compute/gpus-pricing

我看到的最便宜的是每月180美元

大量AI定价https://vast.ai/console/create/

我发现最便宜的是每小时$ 0.077，即每月$ 56

然后我发现了这个法定职位https://www.quora.com/Which-cloud-hosting-provides-GPU-servers-at-the-lowest-cost，它指向https://www.paperspace.com/pricing，这是每月$ 8的解决方案，但是我不确定这是否实际上是服务器托管。

解决方法

有不同的可能性：

  • Google Colab：它是免费的，包括带有漂亮用户界面的Jupyter笔记本系统。它与Google Drive和GitHub集成在一起。您可以就此进行协作。 GPU和TPU均可用。
  • GoogleCloud：比Google Colab更强大和可自定义。 GPU和TPU可用。
  • Preemptible instances on GoogleCloud：可抢占式VM提供与常规计算实例相同的计算机类型和选项，并且可持续长达24小时。它们适合大多数学习任务。与普通的GoogleCloud相比，它可以将您的Compute Engine成本降低多达80％！
  • AWS EC2：即使配置不是最简单的配置，spot instances的定价也提供了一种节省90％的按需价格的方法。

更新：

  • Vast.ai：GPU与市场共享经济
  • Paperspace也为业余爱好者免费提供了5GB的永久存储空间和6个小时的运行时间。其他计划可用（200GB永久存储每月8美元）。可按小时收取计算费用there（GPU：大多数GPU每小时为0.5-2.9美元）
,

选中VPS Smart。我认为这是小型项目的最佳选择之一。从$ 45.00起。

cloud-hostinggpuhostingmachine-learning