Pods、Serverless 和 Clusters
Runpod 提供三种主要执行模式：Pods 用于专用 GPU 实例，Serverless 用于推理工作负载，Clusters 用于多节点任务。这让团队可以根据工作负载选择合适的部署方式，而不是把所有项目都强行放进同一种运行时。
Runpod
认领Runpod 是面向云端 GPU 工作负载的 AI 基础设施平台，提供专用 Pods、Serverless 推理和多节点 Clusters，帮助 AI 与 ML 团队训练、部署并扩展工作负载，无需切换系统。
概览
Runpod 是一个用于在云端运行 GPU 工作负载的 AI 基础设施平台。其主要产品线涵盖专用 GPU Pods、Serverless 推理和 GPU Clusters，因此团队可以在不更换平台的情况下，从实验过渡到生产。
该网站将 Runpod 定位于训练、微调、推理、批处理任务和分布式工作负载。它还强调自助式开通、Pods 和 Clusters 的按秒计费，以及基于使用量的 Serverless 计算，存储和部署选择会影响总成本与控制程度。
对于需要按需获取 GPU 的团队，Runpod 结合了快速环境启动、多区域可用性，以及自动扩缩、日志和指标等托管编排功能。该平台还包括用于预部署模型的公共端点，以及用于保留容量的企业选项。
核心能力
快速环境开通
该平台支持快速启动 GPU 环境，包括一分钟内启动 GPU pod，以及在几分钟内启动多节点集群。这使其既适合短期实验，也适合重复性的生产工作。
自动扩缩的推理工作流
Serverless 可从零自动扩展到多个 worker，网站称其能够处理队列、任务分发、日志、监控和指标。它面向推理端点场景，在这些场景中，空闲容量和冷启动都很重要。
多节点计算编排
Clusters 支持分布式训练和批处理工作负载，具备高速网络、按秒计费以及可挂载共享存储的选项。产品页面还提到了 Slurm 支持，以及运行任意 Docker 工作负载的能力。
灵活的存储层级
存储选项包括容器磁盘、卷磁盘以及标准和高性能层级的网络存储。定价页面也指出，存储和部署选择会影响工作负载的总体成本。
托管模型端点
公共端点通过 API 提供预部署的 AI 模型，无需进行基础设施设置。定价页面列出了音频、图像、语言和视频模型，并采用按请求或按 token 计费。
团队使用 Runpod 的常见方式
专用 GPU 开发与训练
当你需要一个用于开发、微调或长时间运行任务的专用 GPU 环境时，可使用 Pods；这类任务需要持久机器，而不是自动扩缩端点。
生产级推理 API
当你需要一个可随流量扩展的推理端点，并且在 worker 未运行时没有空闲成本，同时由平台自动处理任务分发时，可使用 Serverless。
多节点与分布式工作负载
当你需要分布式训练、大规模批处理，或其他需要多个 GPU 节点以及机器之间高速互连的任务时，可使用 Clusters。
企业容量规划
当你需要专用容量、自定义配置以及面向更大规模部署的长期规划时，可使用保留集群路径。
托管模型访问
当你希望通过 API 访问预部署模型，并且不想自行搭建 GPU 基础设施时，可使用 Public Endpoints。
Pros and Cons
Pros
- 在一个平台上覆盖从实验到生产的完整生命周期。
- 为专用任务、自动扩缩推理和多节点工作负载提供不同的计算模型。
- Pods 和 Clusters 提供按秒计费，适合间歇性或变化较大的工作负载。
- 包含存储选项和共享存储支持，适合需要持久化的工作负载。
- 通过公共端点公开预部署模型，为希望在无需基础设施设置的情况下获得 API 访问的团队提供服务。
Cons
- 来源没有展示适用于所有用例的单一固定工作流，因此团队仍需在 Pods、Serverless、Clusters 和存储选项之间进行选择。
- 部分更大规模集群和保留容量的细节需要联系销售或申请提高消费限额。
- 公开来源没有列出完整的集成目录，因此对外部工具兼容性的文档仅部分可见。
FAQ
Pods、Serverless 和 Clusters 有什么区别？
Runpod 提供多种部署路径：Pods 用于专用 GPU 实例，Serverless 用于 API 风格的推理，Clusters 用于多节点工作负载。最佳选择取决于你需要的是单个 GPU 环境、可自动扩缩的推理，还是跨多个节点协调计算。
Runpod 的定价如何运作？
定价页面说明，Pods 和 Clusters 按秒计费，而 Serverless 按使用量为推理工作器计费。存储、部署选项和工作负载时长都会影响总成本。
Runpod 支持什么样的工作流？
产品页面说明支持导入你自己的 Docker 容器，并使用针对推理、训练和研究工作负载优化的模板。Runpod 还展示了诸如日志、监控、指标和 Serverless 自动扩缩等工作流控制功能。
Runpod 适合谁使用？
Runpod 面向需要 GPU 基础设施来进行训练、推理、批处理任务和分布式工作负载的团队。网站也展示了用于专用容量和更大规模部署的企业选项。
团队可以多快开始使用？
来源没有描述适用于所有产品的统一设置流程，但它确实展示了自助式开通、在几分钟内启动集群，以及将代码推送到 Serverless 以提供实时推理端点。
Quick Facts
- 类别
- AI 基础设施 / 开发者云
- 主要用户
- 运行 GPU 工作负载的 AI 开发者、ML 团队和工程团队
- 平台
- 云端 GPU 实例、Serverless 推理和多节点集群
- 定价形式
- 基于使用量的定价，Pods 和 Clusters 按秒计费，Serverless 按使用量计费
- 来源域名
- runpod.io
- 典型工作流
- 在一个平台上进行实验、训练、微调、部署和扩展