使用 Google AI Platform 提供 PyTorch 预测的推荐方法

问题描述

阅读 Google 的文档，似乎有两种不同的方式可以从 PyTorch 模型中提供预测服务。

1. Using custom prediction routines
2. Creating a custom container and using torchserve

尽管通过阅读在线博客（例如 this one），选项 1 似乎更受欢迎，但不使用选项 2 似乎很奇怪，因为文档明确提到了 PyTorch。

谁能提供为什么人们可能会选择一个选项而不是另一个选项？

解决方法

1 更简单，因为您不必担心创建 http 处理程序，但在本地进行测试可能更难。

2 您构建了自己的容器，因此您可以先尝试在本地运行它。由于您必须能够设置 http 处理程序，因此工作量略高。