Fireworks AI

Fireworks AI 是一個生成式 AI 平台，提供開源模型的部署、訓練、微調與上線，支援 serverless、隨選與保留式推論，並公開自助與企業方案價格。

概覽

Fireworks AI 是一個用於服務、微調、訓練與部署生成式 AI 模型的平台。公開頁面主要聚焦於開源 LLM 與影像模型，以及將你自行完成後訓練的模型帶入同一推論堆疊的能力。

此產品主打專門化智慧：使用者可以先從 serverless 推論開始，再切換到專屬的隨選或保留式部署，並利用訓練工作流程產生可在數秒內部署到正式環境的模型。網站也展示了包含文字、視覺、影像與音訊模型的模型庫，以及 embeddings 與訓練的價格。

價格已公開提供自助使用方案，包括按 token 計費的 serverless 推論、每 100 萬 token 的微調，以及每 GPU 秒的隨選部署。價格頁也引導企業客戶聯絡團隊，以滿足需要更高速度、更低成本或更高速率限制的部署需求。

核心功能

多種推論模式

在針對吞吐量與延遲優化的堆疊上，透過 serverless、隨選與保留式選項，提供開源模型或你自行訓練後的模型。

相容 API 的部署選項

使用與 OpenAI 和 Anthropic 相容的 serverless 端點，或升級到支援多區域的專屬隨選部署。

彈性的訓練流程

使用引導式執行、以設定為主的工作，或你自己的訓練邏輯進行訓練，包括 Fireworks GPU 上的自訂損失函式、訓練器與 RL 迴圈。

訓練到部署的連續性

快速將 checkpoint 部署到正式環境，並讓訓練與部署堆疊保持一致，使同一模型能無縫從訓練進入推論。

模型庫存取

瀏覽包含開源 LLM、視覺模型、音訊模型與影像模型的模型庫，並涵蓋近期新增的前沿版本。

整合式定價模式

價格涵蓋 serverless 推論、微調、強化式微調、embeddings 與隨選 GPU 部署，集中於同一處。

常見使用情境

Serverless 模型服務
當你想快速開始並按 token 付費時，透過 serverless 端點部署開源基礎模型。
正式環境部署
當團隊需要多區域服務、自訂效能調校或更高配額時，為後訓練模型執行專屬部署。
模型訓練與調校
使用引導式、以設定為主或自訂程式碼工作流程來微調或訓練模型，然後將 checkpoint 移入正式環境。
模型選擇與評估
瀏覽並測試目前的模型庫，以便針對特定任務在 LLM、視覺模型、音訊模型與影像模型之間做選擇。
API 遷移
透過相容的 serverless 端點，只需變更服務網址即可遷移既有的 API 型應用，而無需重新設計應用程式。

Pros and Cons

Pros

在同一平台上提供推論、微調、訓練與部署。
支援涵蓋文字、視覺、音訊與影像類別的開源模型。
提供 serverless、隨選與保留式服務選項。
公開自助使用價格，並提供獨立的企業聯絡管道。
說明與 OpenAI 及 Anthropic 風格的 serverless 存取相容。

Cons

公開頁面未提供完整的 SDK、整合或相容性矩陣。
所檢視的頁面未逐一說明每種模型與部署類型的詳細設定步驟、限制或工作流程約束。
部分產品內容在行銷頁面上僅以高階方式描述，因此讀者可能需要查閱文件以取得實作細節。

FAQ

Fireworks AI 提供哪些服務？

Fireworks AI 提供 serverless 推論、隨選部署，以及保留容量，用於部署開源模型或你在平台上訓練的模型。其價格頁也顯示了監督式、偏好式與強化式的微調選項。

Fireworks AI 如何計價？

價格頁說明 serverless 推論採用按 token 計費且無需設定，並包含 1 美元免費額度供開始使用。隨選部署則按 GPU 秒計費，企業用戶則會被引導聯絡團隊。

Fireworks AI 是否支援現有的 AI API 或整合？

該網站強調與 OpenAI 和 Anthropic 相容的 serverless 存取、專屬隨選部署，以及隨選工作負載的多區域支援。公開頁面未提供完整的 SDK 或整合對照表。

可以在 Fireworks AI 上微調或訓練模型嗎？

可以。網站描述的訓練流程涵蓋從引導式執行、以設定為主的工作，到自訂訓練邏輯，並表示 checkpoint 可在數秒內部署到正式環境。

Fireworks AI 是自助式還是以銷售為主？

公開頁面著重於推論、訓練、部署與模型瀏覽，但在所檢視的頁面中，未公開詳細的設定步驟或完整的整合目錄。

Quick Facts

類別: 生成式 AI 平台
主要重點: 推論、訓練、微調與部署
模型類型: 開源 LLM、視覺模型、影像模型與音訊模型
服務模式: Serverless、隨選與保留式容量
定價模式: 按 token、每 100 萬訓練 token 與每 GPU 秒
網站: fireworks.ai