# Nebius AI Cloud Nebius AI Cloud 是一个专为开发、训练和部署 AI 工作负载打造的云平台,整合 GPU 与 CPU 计算、托管 Kubernetes、MLOps 工具,以及托管式或无服务器推理服务,助力团队从实验扩展到生产环境。 - Findings24: - 网站: - 价格: Freemium - 分类: AI 推理平台, GPU 云服务 ## 什么是 Nebius AI Cloud? Nebius AI Cloud 是一个专为开发、训练、评估和部署 AI 工作负载打造的云平台。它在一个环境中提供 GPU 与 CPU 基础设施、云原生扩展能力、托管 Kubernetes、MLOps 工具,以及托管式或无服务器推理服务。 团队可以从单个 VM 开始,创建多节点集群,或扩展到包含数千个 GPU 的环境。该平台通过非虚拟化 GPU 和网络接口,着重提供接近裸机级别的性能,同时保留按需和可抢占式 VM 选项,以及自助式集群访问能力。 ## Nebius AI Cloud 能做什么? ### GPU 与 CPU 计算 在涵盖 Blackwell 和 Hopper 架构的 NVIDIA GPU 系统上运行 AI 工作负载,或使用 Intel Xeon 和 AMD EPYC CPU 实例进行预处理、应用后端运行、批量推理、评估和自动化。 ### 非虚拟化加速基础设施 Nebius 虚拟实例不会对 GPU 或网络接口进行虚拟化。多节点部署可以使用经过优化且无阻塞的 NVIDIA Quantum-2 InfiniBand 网络,为分布式工作负载提供支持。 ### 灵活的集群扩展 启动单个 VM 或扩展到多节点集群,并使用按需和可抢占式 VM、向上或向下扩展集群的能力,以及备用节点替换功能。 ### 托管 Kubernetes 借助针对 AI 优化的全托管 Kubernetes 层,部署和管理容器化 AI 工作负载。对于需要直接进行 DevOps 级控制的团队,Kubernetes 也可作为独立服务使用。 ### AI 开发与推理服务 内置 MLOps 工具、可重复的集群创建、自助式访问,以及托管式或无服务器推理支持,可覆盖从模型开发到生产部署的工作流程。 ## 使用场景 ### 训练和微调大型模型 使用多节点 NVIDIA GPU 集群和 InfiniBand 网络进行大规模语言模型训练、微调、专家混合工作负载和多模态开发。 ### 构建生产推理系统 为需要提供模型服务的应用部署托管式或无服务器推理,并根据延迟和工作负载要求使用 GPU 或 CPU 容量。 ### 运行数据与评估流水线 将分词、特征工程、数据加载、文档处理、大批量评估和其他批处理任务运行在 CPU 实例上,从而让 GPU 容量专注于模型工作。 ### 运行容器化 AI 应用 使用托管 Kubernetes 承载 AI 应用后端、服务逻辑、编排层、ML 流水线脚本、定时任务和 CI/CD 工作流。 ## 常见问题 ### Nebius AI Cloud 支持哪些类型的工作负载? 所提供的产品信息涵盖模型训练、微调、推理、数据预处理、评估、AI 应用后端、编排、自动化和 CI/CD 工作负载。 ### 我可以使用 Nebius AI Cloud 进行小型实验和大型集群运行吗? 可以。Nebius AI Cloud 支持启动单个 VM,也支持扩展到多节点和包含数千个 GPU 的集群。此外,它还支持向上或向下扩展集群,以及使用按需或可抢占式 VM。 ### Nebius AI Cloud 提供 Kubernetes 吗? 提供。托管 Kubernetes 被描述为针对 AI 工作负载优化的全托管容器编排层。对于需要对多节点环境进行直接 DevOps 级控制的团队,也可以使用独立的托管 Kubernetes 服务。 ### 如何开始使用或咨询容量? 网站引导用户在 Nebius 控制台中启动第一个 GPU 实例,或就容量、预留价格或特定工作负载要求联系团队。 ## 快速信息 - **产品类型**: AI 云基础设施平台 - **主要工作负载**: 训练、微调、推理、评估和 AI 应用运营 - **计算资源**: NVIDIA GPU 实例,以及 Intel Xeon 和 AMD EPYC CPU 实例 - **编排**: 托管 Kubernetes,并提供独立的托管服务选项 - **扩展范围**: 从单个 VM 到多节点及包含数千个 GPU 的集群 - **定价信息**: 所提供的来源中未提供公开费率和详细计费条款