Route agent requests
The beta Gateway selects models per turn using factors such as task difficulty, context length and cache size. It builds a cost profile from each agent’s traffic.
AI21
Paid
Access foundation-model APIs and optimize AI-agent traffic with a beta gateway. AI21 also offers dedicated-model work for enterprise workloads.
AI21とは？
AI21 provides a modular enterprise AI stack spanning foundation-model APIs and tools for optimizing existing agent workflows. Teams can use Jamba models through APIs or connect an agent’s API base URL to AI21 Gateway for request routing, caching and context compaction.
Gateway is currently in beta and free during the preview. Model-and-harness optimization is offered through AI21’s enterprise post-training engagements; confirm the scope and delivery with the team. Dedicated-model tuning is arranged with AI21 for defined enterprise workloads; foundation-model API usage has separate pricing and custom-plan options.
AI21でできること
Compact and cache context
Reduce redundant context in prompts, tool schemas and outputs, and adjust context for caching. The Gateway considers the broader agent run when making recommendations.
Review optimization recommendations
Inspect recommended changes and expected savings, then approve changes before they reach production.
Access foundation models through APIs
Use Jamba Mini or Jamba Large through foundation-model APIs and SDKs, with usage-based input and output token charges.
Arrange dedicated-model tuning
Work with AI21 to tune a dedicated small open model for defined enterprise workloads.
利用シーン
“Optimize an existing agent stack”
Connect agent traffic to the Gateway to review routing, context and caching opportunities without replacing the agent’s harness.
“Build language applications”
Use foundation-model APIs for instruct or chat workloads, with billing based on model input and output tokens.
“Develop a workload-specific model”
Use dedicated-model tuning for a defined business workload and discuss delivery requirements with AI21.
よくある質問
Which parts can I try without paying?
AI21 Gateway is free during its beta preview. The official pricing page advertises a separate foundation-model API trial with $10 in credits and no credit card required; confirm the applicable trial period and eligibility when signing up. Paid API access uses usage-based billing.
How are Jamba API requests charged?
Jamba Mini costs $0.20 per million input tokens and $0.40 per million output tokens. Jamba Large costs $2 per million input tokens and $8 per million output tokens. These are foundation-model API rates, separate from dedicated-model work.
How does an existing agent connect to the Gateway?
Point the agent’s API base URL at AI21 Gateway. The Gateway sits between the harness and models, builds a cost profile from traffic and presents recommendations for review before production changes.
Are all parts of the stack available in the same way?
No. Gateway is in beta. Dedicated-model training and model-and-harness optimization are arranged with AI21 for enterprise workloads. Foundation-model APIs have usage-based access and custom-plan options.
クイック情報
- Main audience
- Enterprise AI teams and developers
- Core inputs
- Model requests, agent traffic and defined workloads
- Access
- Foundation-model APIs and SDKs; Gateway endpoint
- Current availability
- Gateway beta; enterprise post-training and harness optimization by arrangement
- Access model
- Usage-priced model APIs; separate beta Gateway and custom work
AI21 のトラフィック分析
トラフィックデータは参考情報としてご利用ください。
- 月間訪問数
- 13.4万
- 世界ランキング
- #324,591
- 直帰率
- 39.8%
- 平均滞在時間
- 00:27
- 訪問あたりのページ数
- 1.91
- ドメイン評価
- 75
トラフィック推移
| 5月 | 170162 |
|---|---|
| 6月 | 146693 |
| 7月 | 134331 |
トラフィックソース
トラフィック分析データはまだありません。
主な地域
- 不明: 14.8%
- 不明: 7.45%
- 不明: 5.33%
- 不明: 4.13%
- 不明: 3.19%
- 不明: 65.1%
AI21の代替品
APIPark
apipark.com
APIと本番LLMを管理するオープンソースのAPIポータル兼AIゲートウェイ
jurniti
www.jurniti.com
jurnitiは、専用のFirecracker microVM上でAIエージェントをオンライン状態に保つマネージドホスティングプラットフォームです。BYOKモデル認証情報、Webダッシュボード、CLI、MCPアクセス、永続ストレージに加え、継続実行やバースト実行に対応する定額制・従量課金制プランを提供します。
Higress
higress.ai
大規模モデル API、MCP Server、Agentを統合接続するクラウドネイティブゲートウェイ
Experiential Labs
www.experientiallabs.ai
Experiential Labsは、ホスト型モデル、顧客所有のキー、ローカルモデルやカスタムモデルに、チームが単一のエンドポイントとAPIキーで接続できるオープンソースAIゲートウェイです。エージェントのトラフィック向けに、ルーティング、予算管理、アクセス制御、アトリビューション、任意のインテリジェンス機能も提供します。
EasyRouter
easyrouter.io
第三者モデル API を1つのインターフェースに統合するAIモデルゲートウェイ
AlphaProxy
alphaproxy.ai
AlphaProxyは、450以上のモデルと100以上のプロバイダーにリクエストを振り分けるOpenAI互換ゲートウェイです。複数ステップの作業やスケジュール済みワークフロー向けのエージェントランタイムを備え、モデル、接続ツール、検証可能な出力への単一エンドポイントを提供します。