CUDO Compute

什么是 CUDO Compute？

CUDO Compute 是一家企业 AI 基础设施提供商，负责设计、上线验收并运营专用 NVIDIA GPU 环境。其服务涵盖将 AI 工作负载投入生产所需的基础设施，包括具备供电条件的场地、高密度集群布局、网络、存储、上线验收及运维支持。

该平台支持分布式训练、大模型运行和推理工作负载。部署围绕工作负载拓扑进行设计，可采用 InfiniBand 或以太网互连，并支持包括 VAST、Weka、DDN 和 NetApp 在内的高性能存储架构。可用的基础设施模式包括专用单租户集群，以及由客户或合作伙伴拥有、由 CUDO Compute 负责部署和运营的环境。

CUDO Compute 的交付流程涵盖架构设计、通过成熟 OEM 渠道部署硬件、验收测试和生产运营。其所述运营模式包括全天候监控、事件响应、固件与生命周期管理以及供应商升级协调。基础设施可部署在英国、欧洲、北美、亚太地区和中东等区域，具体取决于项目需求和可用性。

CUDO Compute 能做什么？

生产级 GPU 集群工程

专用集群针对持续 AI 训练和推理进行配置，架构遵循 NVIDIA 参考设计，并与特定工作负载拓扑相匹配。

供电、冷却与场地规划

CUDO Compute 围绕具备供电条件的场地、高密度冷却、机架布局、连接能力和未来容量需求规划部署。

高性能互连与存储

集群设计可包括 InfiniBand 或以太网络，以及 VAST、Weka、DDN 和 NetApp 等存储集成。

上线验收与验收测试

部署包括在必要时进行基础设施整改、自动化集群安装、健康检查、基准测试和生产验收。

托管式基础设施运营

运营模式包括全天候监控、事件响应、固件管理、维护、生命周期支持以及 NVIDIA 升级协调渠道。

区域化与受控部署选项

CUDO Compute 提供满足延迟、数据驻留和监管要求的区域化基础设施选择，并为企业和合规敏感型工作负载提供隔离环境。

使用场景

“分布式模型训练”

AI 团队可以在专用 GPU 集群上运行持续的多节点训练作业，集群按照所需的互连和存储拓扑进行配置。

“大模型运行”

运行大模型的组织可以使用高密度 GPU 环境，该环境针对生产工作负载的计算、内存、网络和运营需求进行设计。

“全球推理运营”

在多个区域提供推理工作负载服务的团队，可以围绕区域内容量、延迟、数据驻留和运维支持要求规划部署。

“基础设施整改与标准化”

拥有现有数据中心资源的平台运营商可以使用 CUDO Compute 进行场地整改、集群部署，并在多个地点建立一致的运营模式。

常见问题

CUDO Compute 提供什么？

CUDO Compute 提供生产级 AI 基础设施的设计、部署、上线验收和运营服务，包括专用 NVIDIA GPU 集群、场地与供电规划、网络、存储及托管支持。

有哪些部署模式可用？

该网站介绍了专用单租户 GPU 集群，以及由客户拥有或合作伙伴支持、由 CUDO Compute 负责设计、部署和运营的基础设施。

集群如何投入生产？

CUDO Compute 负责设计架构、部署基础设施，并可在环境投入生产前完成整改、自动化安装、健康检查、基准测试和验收。

基础设施可以部署在哪里？

CUDO Compute 介绍了覆盖英国、欧洲、北美、亚太地区和中东的基础设施与运营服务。适用区域取决于项目需求和可用性。