多种推理模式
在针对吞吐量和延迟优化的技术栈上托管开源模型或你自己的后训练模型，提供 serverless、按需和预留选项。
Fireworks AI
认领Fireworks AI 是一个生成式 AI 平台，支持开源模型的托管、训练、微调与部署，提供 serverless、按需和预留推理，并公开自助和企业版定价。
概述
Fireworks AI 是一个用于托管、微调、训练和部署生成式 AI 模型的平台。公开页面重点介绍开源 LLM 和图像模型，以及将你自己的后训练模型接入同一推理栈的能力。
该产品围绕专用智能定位：用户可以先使用 serverless 推理，再迁移到专用按需或预留部署，并利用训练工作流生成可在数秒内部署到生产环境的模型。网站还展示了包含文本、视觉、图像和音频模型的模型库，以及嵌入和训练的定价。
自助使用的定价已公开，包括按 token 计费的 serverless 推理、按 100 万 token 计费的微调，以及按 GPU 秒计费的按需部署。定价页面还提示企业客户就需要更高速度、更低成本或更高速率限制的部署需求联系团队。
核心能力
兼容 API 的托管选项
使用与 OpenAI 和 Anthropic 兼容的 serverless 端点，或迁移到支持多区域的专用按需部署。
灵活的训练工作流
通过引导式运行、配置驱动作业或你自己的训练逻辑进行训练，包括 Fireworks GPU 上的自定义损失函数、训练器和 RL 循环。
训练到托管的连续性
将检查点快速部署到生产环境，并保持训练与托管技术栈一致，使同一模型可从训练无缝进入推理。
模型库访问
浏览包含开源 LLM、视觉模型、音频模型和图像模型的模型库，其中包括近期新增的前沿版本。
统一的定价模型
定价涵盖 serverless 推理、微调、强化微调、嵌入和按需 GPU 部署，信息集中在一个地方。
常见用例
Serverless 模型托管
当你希望快速上手并按 token 付费时，通过 serverless 端点托管开源基础模型。
生产环境部署
当团队需要多区域托管、自定义性能调优或更高配额时，为后训练模型运行专用部署。
模型训练与调优
使用引导式、配置驱动或自定义代码工作流对模型进行微调或训练，然后将检查点投入生产。
模型选择与评估
浏览并测试当前模型库，在 LLM、视觉模型、音频模型和图像模型之间为特定任务做出选择。
API 迁移
通过兼容的 serverless 端点迁移现有基于 API 的应用，只需更改服务 URL，而无需重新设计应用。
Pros and Cons
Pros
- 在一个平台中同时提供推理、微调、训练和部署。
- 支持涵盖文本、视觉、音频和图像类别的开源模型。
- 提供 serverless、按需和预留托管选项。
- 公开自助使用定价，并提供单独的企业联系渠道。
- 说明了与 OpenAI 和 Anthropic 风格的 serverless 访问兼容。
Cons
- 公开页面未提供完整的 SDK、集成或兼容性矩阵。
- 所审阅的页面没有为每种模型和部署类型详细说明全部设置步骤、限制或工作流约束。
- 部分产品在营销页面上的描述较为概括，因此读者可能需要查看文档以了解实现细节。
FAQ
Fireworks AI 提供什么？
Fireworks AI 提供 serverless 推理、按需部署和预留容量，用于托管开源模型或你已在平台上训练的模型。其定价页面还展示了监督式、偏好式和强化式微调选项。
Fireworks AI 如何定价？
定价页面说明，serverless 推理采用按 token 计费且无需设置，并提供 1 美元免费额度用于开始使用。按需部署按每 GPU 秒计费，企业用户则被引导联系团队。
Fireworks AI 是否支持现有的 AI API 或集成？
网站强调了与 OpenAI 和 Anthropic 兼容的 serverless 访问、专用按需部署，以及针对按需工作负载的多区域支持。公开页面未提供完整的 SDK 或集成矩阵。
可以在 Fireworks AI 上对模型进行微调或训练吗？
是。网站描述的训练工作流包括引导式运行、配置驱动作业和自定义训练逻辑，并说明检查点可在数秒内部署到生产环境。
Fireworks AI 是自助式还是销售驱动式？
公开页面重点介绍了推理、训练、部署和模型浏览，但在所审阅的页面中未公布详细的设置步骤或完整的集成目录。
Quick Facts
- 类别
- 生成式 AI 平台
- 主要重点
- 推理、训练、微调和部署
- 模型类型
- 开源 LLM、视觉模型、图像模型和音频模型
- 托管模式
- Serverless、按需和预留容量
- 定价模式
- 按 token、按 100 万训练 token 和按 GPU 秒
- 网站
- fireworks.ai