# Runpod Runpod 将 GPU Pod、自动扩缩容的无服务器推理和多节点集群整合到一个云平台，帮助开发团队完成模型开发、微调、部署及批处理工作负载。 - Findings24: - 网站: - 价格: Freemium - 分类: AI 推理平台, AI 模型部署, GPU 云服务 ## 什么是 Runpod？ Runpod 是面向 AI 开发者的云平台，将专用 GPU 实例、自动扩缩容的无服务器推理和多节点 GPU 集群整合在一起。团队可使用 GPU Pod 控制容器、存储、GPU 类型和运行时；通过 Serverless 将推理工作负载作为可自动扩缩容的端点提供服务；并使用 Clusters 执行协调式多节点作业。该平台支持从模型实验和微调到部署及生产环境扩展的工作流，无需在不同的 Runpod 账户之间切换。 ## Runpod 能做什么？ ### 专用 GPU Pod 启动 GPU 环境，并控制容器、存储、GPU 类型和运行时。Runpod 提供 30 多种 GPU SKU，并支持在 31 个区域部署。 ### 自动扩缩容的 Serverless 端点 将处理程序部署为推理端点，并根据需求扩展工作进程；没有任务运行时，还可缩减至零。 ### 多节点 Clusters 为分布式工作负载配置 GPU 集群、挂载共享存储，并使用 Slurm 管理跨节点作业。 ### 按秒计费的计算资源 Pods 和按需 Clusters 按秒计费；Serverless 工作进程按使用量计费。工作负载类型和存储选项会影响总成本。 ### 基于容器的工作流 可使用自带的 Docker 容器，或选用 Runpod 模板，在主流 AI 框架中运行推理、训练和研究工作负载。 ### 运营监控 Serverless 提供实时日志、监控和指标，同时由 Runpod 管理任务队列和工作进程分配。 ## 使用场景 ### 开发和微调模型 使用 GPU Pod 准备数据、运行训练或微调作业，并直接控制软件环境。 ### 处理流量变化的推理服务 将模型处理程序部署到 Serverless 端点，以便在请求量随时间变化时，工作进程容量能够按需调整。 ### 运行分布式训练 当训练作业需要跨机器协调 GPU 时，使用具备高速节点间网络和 Slurm 的多节点 Cluster。 ### 处理大型批处理工作负载 为计算密集型批处理配置按需 Clusters、挂载共享存储，并在工作完成后终止集群。 ## 常见问题 ### Pods、Serverless 和 Clusters 有什么区别？ Pods 是适用于开发和长时间运行作业的专用 GPU 实例。Serverless 提供按使用量计费且可自动扩缩容的推理工作进程。Clusters 将多个节点连接起来，用于分布式或批处理工作负载。 ### GPU Pods 和按需 Clusters 如何计费？ 定价信息说明，Pods 和按需 Clusters 按秒计费。Serverless 工作进程按使用量收费；存储和部署选项也可能影响总成本。 ### 我可以运行自己的容器和作业调度器吗？ 可以。Clusters 支持用户提供的 Docker 工作负载以及 sinfo、sbatch 和 srun 等 Slurm 命令。Runpod 表示 Clusters 与 Kubernetes 不兼容。 ### 按需 Cluster 的规模上限是多少？ 集群页面说明，用户可按需使用两个节点，最多配备 16 个 GPU。更大的集群最多可扩展至八个节点和 64 个 GPU，但需要提高消费限额。 ### 我可以为更大规模的部署预留容量吗？ Runpod 提供预留 Clusters，包含专用容量、自定义配置、支持与引导服务、正常运行时间 SLA，以及长期承诺的折扣费率。可联系销售团队了解供应情况和条款。 ## 快速信息 - **产品类别**: AI 开发者云和 GPU 基础设施 - **计算选项**: GPU Pods、Serverless 和多节点 Clusters - **GPU 供应情况**: 30 多种 GPU SKU，覆盖 31 个区域 - **集群网络**: 节点间带宽为 1,600–3,200 Gbps，具体取决于配置 - **计费模式**: Pods 和按需 Clusters 按秒计费；Serverless 工作进程按使用量计费 - **存储**: 提供持久化存储和共享存储选项；定价页面列出的存储起价为 $0.05/GB/月