按需 NVIDIA GPU 实例
在一分钟内配置单实例 GPU 容量,并可选择从 1x 到 8x GPU 的配置。
Verda 是一款专注于 AI 工作负载基础设施的全栈 AI 云平台。它将按需 NVIDIA GPU 实例与自助式多节点集群相结合,并提供托管 Slurm 或 Kubernetes 选项。用户可以为短时运行或特定任务选择单个 GPU 容量,也可以在应用需要分布式计算时配置多节点环境。
在一分钟内配置单实例 GPU 容量,并可选择从 1x 到 8x GPU 的配置。
列出的实例硬件包括 NVIDIA B300、B200、H200、H100 和 A100 GPU,用户可以从平台提供的型号中进行选择。
无需人工设置流程或联系销售即可创建集群,支持需要多个节点的工作负载。
根据工作负载或编排流程,在托管 Slurm 和 Kubernetes 之间选择集群运行方式。
GPU 实例采用按需付费定价;现有信息未说明适用费率。
运行需要多个 GPU 的推理工作负载,例如 Verda 1XWM 生成式视频协作中所述的多 GPU 推理。
为视频生成系统提供 GPU 基础设施,适用于更高视频质量属于应用流程一部分的场景。
当 AI 工作负载必须跨多台机器运行,而不是运行在单个 GPU 实例上时,使用即时多节点集群。
当团队需要成熟的调度器或容器编排环境、又无需手动设置集群时,配置带有 Slurm 或 Kubernetes 的集群。
GPU 实例页面说明,按需实例可以在一分钟内完成配置。
即时集群的说明是可在 20 分钟内完成配置。
Verda 为其即时集群提供托管 Slurm 或 Kubernetes。
来源列出了 NVIDIA B300、B200、H200、H100 和 A100 等选项。
来源指出 GPU 实例采用按需付费定价,但现有材料未包含具体费率或方案限制。