专用 GPU Pod
启动 GPU 环境，并控制容器、存储、GPU 类型和运行时。Runpod 提供 30 多种 GPU SKU，并支持在 31 个区域部署。
什么是 Runpod？
Runpod 是面向 AI 开发者的云平台，将专用 GPU 实例、自动扩缩容的无服务器推理和多节点 GPU 集群整合在一起。团队可使用 GPU Pod 控制容器、存储、GPU 类型和运行时；通过 Serverless 将推理工作负载作为可自动扩缩容的端点提供服务；并使用 Clusters 执行协调式多节点作业。该平台支持从模型实验和微调到部署及生产环境扩展的工作流，无需在不同的 Runpod 账户之间切换。
Runpod 能做什么？
自动扩缩容的 Serverless 端点
将处理程序部署为推理端点，并根据需求扩展工作进程；没有任务运行时，还可缩减至零。
多节点 Clusters
为分布式工作负载配置 GPU 集群、挂载共享存储，并使用 Slurm 管理跨节点作业。
按秒计费的计算资源
Pods 和按需 Clusters 按秒计费；Serverless 工作进程按使用量计费。工作负载类型和存储选项会影响总成本。
基于容器的工作流
可使用自带的 Docker 容器，或选用 Runpod 模板，在主流 AI 框架中运行推理、训练和研究工作负载。
运营监控
Serverless 提供实时日志、监控和指标，同时由 Runpod 管理任务队列和工作进程分配。
使用场景
“开发和微调模型”
使用 GPU Pod 准备数据、运行训练或微调作业，并直接控制软件环境。
“处理流量变化的推理服务”
将模型处理程序部署到 Serverless 端点，以便在请求量随时间变化时，工作进程容量能够按需调整。
“运行分布式训练”
当训练作业需要跨机器协调 GPU 时，使用具备高速节点间网络和 Slurm 的多节点 Cluster。
“处理大型批处理工作负载”
为计算密集型批处理配置按需 Clusters、挂载共享存储，并在工作完成后终止集群。
常见问题
Pods、Serverless 和 Clusters 有什么区别？
Pods 是适用于开发和长时间运行作业的专用 GPU 实例。Serverless 提供按使用量计费且可自动扩缩容的推理工作进程。Clusters 将多个节点连接起来，用于分布式或批处理工作负载。
GPU Pods 和按需 Clusters 如何计费？
定价信息说明，Pods 和按需 Clusters 按秒计费。Serverless 工作进程按使用量收费；存储和部署选项也可能影响总成本。
我可以运行自己的容器和作业调度器吗？
可以。Clusters 支持用户提供的 Docker 工作负载以及 sinfo、sbatch 和 srun 等 Slurm 命令。Runpod 表示 Clusters 与 Kubernetes 不兼容。
按需 Cluster 的规模上限是多少？
集群页面说明，用户可按需使用两个节点，最多配备 16 个 GPU。更大的集群最多可扩展至八个节点和 64 个 GPU，但需要提高消费限额。
我可以为更大规模的部署预留容量吗？
Runpod 提供预留 Clusters，包含专用容量、自定义配置、支持与引导服务、正常运行时间 SLA，以及长期承诺的折扣费率。可联系销售团队了解供应情况和条款。
快速信息
- 产品类别
- AI 开发者云和 GPU 基础设施
- 计算选项
- GPU Pods、Serverless 和多节点 Clusters
- GPU 供应情况
- 30 多种 GPU SKU，覆盖 31 个区域
- 集群网络
- 节点间带宽为 1,600–3,200 Gbps，具体取决于配置
- 计费模式
- Pods 和按需 Clusters 按秒计费；Serverless 工作进程按使用量计费
- 存储
- 提供持久化存储和共享存储选项；定价页面列出的存储起价为 $0.05/GB/月
Runpod 流量分析
流量数据仅供参考。
- 域名评分
- 77
Runpod 替代品
CoreWeave
www.coreweave.com
面向 AI 的云平台，融合 GPU 基础设施、存储、网络、编排与运维工具，支持从模型实验到生产部署。
Lambda
lambda.ai
Lambda 为 AI 训练、微调、推理和原型开发提供云 GPU 算力。团队可启动按需 GPU 实例、使用生产就绪的 1-Click Clusters，或咨询适用于更大工作负载的预留和单租户基础设施。
Hyperbolic
hyperbolic.xyz
Hyperbolic 是一个开放接入的 GPU 与 AI 云平台，提供按需使用的 H100、H200、B200 及其他 GPU 算力，支持实验、训练、微调、推理和生产工作负载，并提供按需实例、预留集群与私有云基础设施。
Hyperstack
www.hyperstack.cloud
云端 GPU 平台，支持 AI 与机器学习工作负载的训练、推理、数据分析和模型开发，并提供 AI Studio、虚拟机及托管 Kubernetes。
Nebius AI Cloud
nebius.com
Nebius AI Cloud 是一个专为开发、训练和部署 AI 工作负载打造的云平台，整合 GPU 与 CPU 计算、托管 Kubernetes、MLOps 工具，以及托管式或无服务器推理服务，助力团队从实验扩展到生产环境。
SambaNova
sambanova.ai
面向开发者、企业和基础设施运营者的 AI 推理平台，支持运行大型开源模型和智能体工作负载，并适用于云端、本地、混合及隔离环境。