按需 GPU 实例
为实验、模型开发、测试和原型开发启动单个 GPU 实例。配置列表包括 NVIDIA B200、H100、A100、GH200、A6000、A10、Tesla V100 以及其他选项，不同选项配备不同的显存、CPU、内存和 SSD 分配。
Lambda
Freemium
Lambda 为 AI 训练、微调、推理和原型开发提供云 GPU 算力。团队可启动按需 GPU 实例、使用生产就绪的 1-Click Clusters，或咨询适用于更大工作负载的预留和单租户基础设施。
什么是 Lambda？
Lambda 是一个面向 AI 开发和生产工作负载的云 GPU 平台。它提供用于测试和原型开发的按需实例、用于分布式训练和推理的 1-Click Clusters，以及面向需要专用容量团队的更大型单租户基础设施。
该平台支持 NVIDIA GPU，包括 B200、H100、A100、GH200、A6000，以及实例配置列表中的其他型号。其 1-Click Clusters 提供生产就绪的 NVIDIA HGX B200 或 H100 环境，规模从 16 个 GPU 到超过 2,000 个 GPU，并配备 InfiniBand 网络和托管编排选项。
团队可以使用 Lambda 进行基础模型训练、微调、推理，以及高流量工作负载的服务部署。实例按 GPU 小时计费，并可通过云服务启动；集群价格根据 GPU 数量和合同期限列出，预留容量相关咨询由 Lambda 团队处理。定价页面说明不收取出口流量费用，但可能适用销售税。
对于更大规模的部署，Lambda 提供单租户基础设施、具有硬件级隔离的笼式集群，以及包括 SOC 2 Type II 鉴证在内的安全体系。集群环境可使用托管 Kubernetes 或 Slurm 编排以及兼容 S3 的存储，帮助团队运行分布式 AI 工作负载，而无需自行管理所有基础设施层。
Lambda 能做什么？
1-Click Clusters
部署生产就绪的 NVIDIA HGX B200 或 H100 集群，规模从 16 个 GPU 到超过 2,000 个 GPU。这些集群面向分布式 AI 工作负载设计，并使用专用 InfiniBand 连接。
托管集群编排
集群部署可包含完全托管的 Kubernetes 或 Slurm 编排，以及兼容 S3 的存储，从而减少运行分布式训练和推理所需的运维工作。
单租户基础设施
Lambda 提供采用单租户、无共享架构的专用基础设施，并说明可为需要更强隔离的工作负载提供具有硬件级隔离的笼式集群。
灵活的容量和定价模式
用户可以按 GPU 小时租用实例，采用短期或长期集群方案，或联系 Lambda 咨询预留容量。定价信息说明不收取入口或出口流量费用。
使用场景
“模型原型开发”
使用按需实例测试代码、评估模型或开发 AI 应用原型，无需先安排多 GPU 集群。
“基础模型训练”
在通过 InfiniBand 连接、规模从 16 个 GPU 起的 B200 或 H100 集群上运行大型分布式训练作业。
“微调和评估”
使用 GPU 实例或生产集群微调模型，并在可用的 NVIDIA 配置之间比较训练或评估运行结果。
“生产推理”
在可扩展的集群基础设施上部署推理工作负载，包括需要服务大量 token 或使用托管 Kubernetes 或 Slurm 运行的工作负载。
“专用企业工作负载”
当硬件隔离、专用容量或长期基础设施规划十分重要时，选择单租户或笼式集群方案。
常见问题
Lambda 提供哪些类型的 GPU 算力？
Lambda 提供按需实例，配置列表包括 NVIDIA B200、H100、A100、GH200、A6000、A10、Tesla V100 和 Quadro RTX 6000。其 1-Click Clusters 基于 NVIDIA HGX B200 或 H100 系统。
我应该使用实例还是 1-Click Cluster？
实例适用于使用单个 GPU 配置进行快速测试和原型开发。1-Click Clusters 面向生产就绪的分布式训练、微调和推理，提供从 16 个 GPU 到超过 2,000 个 GPU 的方案。
Lambda 的服务如何定价？
实例按 GPU 小时计价，价格因 GPU 和系统配置而异。1-Click Cluster 的价格因 GPU 数量和合同期限而异；预留容量方案由 Lambda 团队处理。定价页面说明不收取入口或出口流量费用，且可能适用相关税费。
集群有哪些编排选项？
1-Click Clusters 页面列出了完全托管的 Kubernetes 或 Slurm 编排以及兼容 S3 的存储。具体部署可用的设置和配置应与 Lambda 确认。
Lambda 是否提供隔离基础设施？
Lambda 介绍了单租户、无共享基础设施以及具有硬件级隔离的笼式集群。其网站还列出了 SOC 2 Type II 鉴证以及针对集群产品的其他合规标准。
快速信息
- 类别
- 云 GPU 算力和 AI 基础设施
- 主要工作负载
- AI 训练、微调、推理和原型开发
- 集群规模
- 16 个至超过 2,000 个 NVIDIA B200 或 H100 GPU
- 实例计费
- 按 GPU 小时计费；价格因 GPU 和配置而异
- 编排
- 1-Click Clusters 使用托管 Kubernetes 或 Slurm
- 定价说明
- 说明不收取入口或出口流量费用；可能适用相关税费