多种推理部署选项
通过无服务器推理、异步批处理、预置吞吐量或专用模型基础设施运行模型。这些选项支持不同的工作负载模式，涵盖按需请求、预留容量和专用硬件等需求。
Together AI
Paid
Together AI 是面向开发团队的 AI 云平台，集成开源模型推理、微调和 GPU 算力，支持从实验测试到应用部署的完整流程。团队可按工作负载选择无服务器推理、预留吞吐量或专用部署。
什么是 Together AI？
Together AI 是一个全栈 AI 云平台，用于基于开源模型开发和运行应用。平台整合了模型推理、微调、GPU 算力及配套基础设施，让团队能够在同一平台内完成从实验测试到工作负载部署的流程。推理选项涵盖按需使用的无服务器推理、预留吞吐量和专用部署；算力服务包括 GPU 集群，并支持通过微调调整模型。平台还提供托管存储和代码沙箱。Together Research 致力于面向生产环境的推理系统、GPU 内核、模型调整及智能体研究，为平台针对 AI 工作负载的设计提供支持。
Together AI 能做什么？
开源模型微调
通过监督微调和直接偏好优化，为生产工作负载微调模型。Together AI 将微调描述为一种无需管理训练基础设施即可调整模型准确性和行为的方式。
GPU 集群与加速计算
按需配置 GPU 算力，支持从自助式集群到更大规模的部署。Together AI 还提供 Kernel Collection，作为计算工作负载的优化层。
生成式媒体基础设施
专用容器推理旨在将视频、音频和图像模型部署到 GPU 基础设施上，并通过 Together Research 的技术实现性能加速。
开发者与数据基础设施
代码沙箱为 AI 应用和智能体提供运行环境，并包含代码解释器 API。托管存储包括面向 AI 工作负载的对象存储和并行文件系统。
使用场景
“构建和测试 AI 应用”
使用无服务器模型推理评估可用的开源模型，并将模型能力接入应用，无需先管理模型服务基础设施。
“处理大规模异步工作负载”
在无需交互式返回结果的场景下，提交批量推理作业以处理大量任务。该服务支持无服务器模型和私有部署。
“运行生产环境模型服务”
选择预置吞吐量以获得预留容量并按 token 计费；当工作负载需要专用硬件、自定义模型和自动扩缩容时，可选择专用推理。
“针对特定任务调整模型”
通过监督微调或直接偏好优化来微调开源模型，使其行为适应生产工作流程。
“开发实时语音智能体”
通过语音服务组合语音转文本、语言模型和文本转语音功能。其模型库和共用 API 让团队能够切换语音处理流程中的模型，无需重新构建集成。
常见问题
Together AI 可以用来做什么？
平台支持模型推理、微调、GPU 计算、代码沙箱和托管存储，还提供用于构建实时语音智能体的语音解决方案。
如何部署模型？
可选方案包括无服务器推理、批量推理、预置吞吐量、专用模型推理和专用容器推理。具体选择取决于工作负载是否为异步任务、是否需要预留容量，以及是否需要专用基础设施。
可以在不管理训练基础设施的情况下微调模型吗？
Together AI 提供开源模型微调，支持监督微调和直接偏好优化。其产品说明指出，用户无需管理训练基础设施。
如何计费？
定价因服务而异：无服务器模型按 token 计费；媒体模型按图像、视频、字符或音频分钟数等单位计费；GPU 和沙箱资源按使用量计费。部分专用和预留方案需要联系销售团队。
快速信息
- 产品类别
- AI 云与开发者平台
- 核心服务
- 推理、微调、GPU 集群、沙箱和托管存储
- 模型覆盖范围
- 涵盖文本、图像、视频、代码和语音的开源模型
- 计费模式
- 按使用量计费，费率因模型和服务而异；部分容量方案需联系销售团队
- 网站
- together.ai
Together AI 流量分析
流量数据仅供参考。
- 域名评分
- 81
Together AI 替代品
Baseten
baseten.co
用于部署、服务和扩展开源、自定义及微调 AI 模型的推理平台，支持托管云、自托管、混合及专用部署。
SambaNova
sambanova.ai
面向开发者、企业和基础设施运营者的 AI 推理平台，支持运行大型开源模型和智能体工作负载，并适用于云端、本地、混合及隔离环境。
Bento
www.bentoml.com
面向大规模 AI 与机器学习模型打包、部署、优化和运营的推理平台，支持云端、私有部署、Kubernetes 及自带云环境。
Chutes
chutes.ai
Chutes 是面向开源模型的去中心化无服务器推理平台。开发者可通过 API 调用托管模型，也可在机密 GPU 算力上部署私有自定义工作负载。
Hyperbolic
hyperbolic.xyz
Hyperbolic 是一个开放接入的 GPU 与 AI 云平台，提供按需使用的 H100、H200、B200 及其他 GPU 算力，支持实验、训练、微调、推理和生产工作负载，并提供按需实例、预留集群与私有云基础设施。
FriendliAI
friendli.ai
面向生产环境部署前沿开放权重模型和自定义 AI 模型的推理云，提供无服务器模型 API、专用 GPU 端点及 BYOG 选项，支持智能体、多模态和高吞吐工作负载。