无服务器推理
无需管理基础设施即可按需运行开源模型，主页将其定位为使用无服务器服务的最快路径。
Together AI
认领Together AI 是面向推理、微调、GPU 集群、沙盒和托管存储的 AI 云平台，支持无服务器与专用部署，并为多种工作负载提供公开定价。
Together AI
Together AI 是一个用于构建、部署和优化模型工作负载的 AI 云平台。首页将其描述为面向推理、微调和 GPU 集群的全栈 AI 平台，并提供沙盒计算、托管存储和模型塑形等附加产品。
该平台围绕多个部署和工作流层进行组织：用于按需使用的无服务器推理、用于单租户性能的专用推理、用于生成式媒体工作负载的专用容器推理、用于 GPU 访问的加速计算、用于开发的沙盒环境，以及用于生产模型适配的微调。定价页面显示了许多无服务器模型和基础设施产品的公开费率，而某些更大的专用硬件选项则需要联系销售。
核心能力
专用推理
在单租户基础设施上部署模型，提供有保障的性能、对自定义模型的支持，以及在流量高峰时的自动扩缩容。
GPU 集群
使用按小时计费的 GPU 容量或预留集群来处理更大的计算任务，并提供 H100、H200 和 B200 硬件的按需与预留定价选项。
沙盒环境
创建 VM 沙盒，通过 API 安全运行代码，并可让沙盒休眠与恢复，以支持开发工作流。
微调
使用监督式微调和直接偏好优化，对支持的模型家族进行生产级开源模型训练。
托管存储
将数据存储在为 AI 工作负载设计的托管对象存储和并行文件系统中，主页注明零出站流量费用。
常见用例
原型设计并扩展模型推理
团队可以先使用无服务器推理进行快速实验，然后在需要更稳定性能或更多控制时切换到专用端点。
运行私有或生产推理
需要私有基础设施的组织可以在专用硬件上部署自定义模型或开源模型，并获得有保障的性能和自动扩缩容。
将模型适配到生产任务
开发者可以使用监督式微调或直接偏好优化，将支持的开源模型微调为适合特定领域行为的模型。
使用 GPU 集群处理更重的工作负载
处理更大规模任务的 AI 团队可以按小时或预留方式租用 GPU 容量，用于训练、评估或其他计算密集型工作。
构建和测试 AI 应用
应用构建者可以使用沙盒和托管存储来启动开发环境、安全运行代码，并让数据更接近计算资源。
Pros and Cons
Pros
- 在一个平台中覆盖 AI 工作流的多个阶段，包括推理、计算、存储、沙盒和微调。
- 为许多工作负载公布了定价，便于早期评估和比较。
- 提供多种部署模式，从无服务器访问到专用和预留基础设施。
- 提供了具体的开发者入口，例如示例 API 调用、快速开始指南、文档和 playground 访问。
- 定价页面显示支持专门的模型家族和模态，包括文本、图像、音频、视频、嵌入、重排序和审核。
Cons
- 来源未提供完整公开的 SDK、框架或第三方集成列表。
- 某些专用硬件选项，包括部分更大规格的 GPU 实例和预留集群层级，采用联系咨询定价，而不是完全公开的费率。
FAQ
Together AI 提供什么？
Together AI 是一个用于运行和优化 AI 工作负载的云平台。网站重点介绍了无服务器推理、专用推理、专用容器推理、GPU 集群、沙盒环境、托管存储和微调。
该平台支持哪些工作流？
定价页面展示了无服务器推理、专用推理、GPU 集群、沙盒计算、托管存储和微调。首页还重点介绍了批量推理、专用模型推理和专用容器推理。
开发者如何访问模型？
网站在模型页面上展示了兼容 OpenAI 的 API 模式，例如 `https://api.together.xyz/v1/chat/completions`，并提供了 cURL、Python 和 TypeScript 的示例调用。
Together AI 是否公布定价？
许多无服务器模型、GPU 集群、沙盒计算、存储和微调均已公布定价。某些专用硬件，例如部分更大规格的 GPU 选项，则采用联系销售的定价方式。
网站上记录了哪些集成？
来源未提供完整的 SDK 或框架兼容性列表，但展示了代码示例以及快速开始指南、文档、playground 访问和模型页面链接。
Quick Facts
- 类别
- AI 云平台
- 主站点
- together.ai
- 核心工作负载
- 推理、微调、GPU 集群
- 部署选项
- 无服务器、专用、预留、沙盒
- 开发者访问
- API 示例、文档、playground、快速开始
- 定价
- 许多产品提供公开定价；部分硬件需联系销售