分布式 GPU 基础设施
在由消费级 GPU 构成的分布式云上部署 AI 及其他容器化工作负载,页面重点介绍了大规模推理、批处理、渲染队列和 LLM 工作负载。
Salad 是面向 AI 及其他高 GPU 需求工作负载的分布式 GPU 云,按使用量计费,无需签订合约或预付款。它帮助团队在消费级 GPU 上部署推理、转录、图像生成和批处理任务。
Salad 是面向消费级 GPU 上 AI 及其他高计算需求工作负载的分布式 GPU 云。该网站将其定位为超大规模云的低成本替代方案,采用按使用量付费的定价模式,无需签订合约或预付款。
该产品被介绍为托管式容器服务,而非虚拟机管理平台。源页面强调,无需管理单台机器即可扩展推理、批处理作业、计算机视觉、语言模型、语音 AI 和图像生成任务,同时提供可自定义的 GPU、RAM 和 vCPU 选项。
在由消费级 GPU 构成的分布式云上部署 AI 及其他容器化工作负载,页面重点介绍了大规模推理、批处理、渲染队列和 LLM 工作负载。
使用完全托管的容器服务和按使用量计费的执行模式扩展工作负载,无需管理单台虚拟机或实例。
选择可自定义的 GPU、内存和 vCPU 配置;定价页面展示了多种 GPU 类别,以及通用型、CPU 优化型和内存优化型实例类型。
提供对图像生成工作流的支持,包括预构建容器,以及针对 Stable Diffusion XL、Flux.1-Schnell 和其他图像模型的基准测试。
语音 AI 页面重点介绍转录、翻译、字幕生成和文本转语音工作负载,其中包括由 Whisper Large v3 提供支持的 Salad Transcription API。
该平台被定位为全球分布式平台,在许多国家设有地理分布式节点,并可为工作负载提供低延迟的边缘部署。
当图像输出量和单张图像成本较为重要时,在消费级 GPU 上运行文生图或图生图推理。源页面重点介绍了 Stable Diffusion XL、Flux.1-Schnell 和预构建容器工作流。
在 GPU 上部署语音转文本、文本转语音、翻译、字幕生成或字幕处理工作流,而不是使用托管式语音 API。源页面强调了较低成本和 Salad Transcription API。
提供语言模型工作负载,包括自托管 LLM 和基于 token 的推理,无需管理自有虚拟机集群。
当任务可以并行化时,跨多个 GPU 节点运行分布式批处理作业、HPC 风格工作负载或渲染队列。
构建需要弹性的生产级 AI 服务,例如支持团队按需扩展推理,而无需为自有硬件预留过多容量。
Salad Cloud 是一个分布式 GPU 云,用于在消费级 GPU 上运行 AI 及其他高 GPU 需求工作负载。源页面展示的使用场景包括图像生成推理、语音 AI、转录、语言模型、计算机视觉、批处理和渲染队列。
定价页面显示,实例采用按使用量付费的定价模式,无需签订合约或预付款;常见问题解答称,您只需为硬件可供应用使用的时间付费。在冷启动或初始化期间不会开始计费。
源页面表明,SaladCloud 是完全托管的容器服务,Salad Container Engine 工作负载可以与混合云或多云配置协同运行。页面还指出,可通过 SaladCloud API 使用其他选项。
SaladCloud 在主页上被描述为已通过 SOC2 认证。同一页面还表示,其专利方法可以在整个网络中隔离客户环境和数据。
源页面提到 Salad Transcription API 提供免费试用:创建组织时会自动获得 5 个音频小时的试用额度。定价页面称 Salad Container Engine 不提供免费试用。
流量数据仅供参考。