AIゲートウェイと統合API
統合APIを通じてモデルのトラフィックをルーティングし、各プロバイダーを個別に接続しなくても複数のLLMへのアクセスを管理できます。
Portkeyは、Gen AIビルダー向けの本番向けスタックです。AIゲートウェイ、可観測性、ガードレール、ガバナンス、プロンプト管理を1つのプラットフォームに統合し、AIアプリケーションを本番環境へ移行して中央のコントロールプレーンから管理したいチーム向けに提供されています。
サイトでは、Portkeyは本番AI向けの統合APIとコントロールパネルとして紹介されており、無料のプロトタイピング向けティアから本番向け、エンタープライズ向けの提供まで幅広いプランがあります。各製品ページ全体を通して、このプラットフォームはモデルトラフィックのルーティング、AIインタラクションの記録、ガードレールの適用、利用状況とコストの可視化を中心に位置付けられています。
統合APIを通じてモデルのトラフィックをルーティングし、各プロバイダーを個別に接続しなくても複数のLLMへのアクセスを管理できます。
リクエスト、レスポンス、トレース、フィードバック、カスタムメタデータ、フィルターを記録し、モデルの挙動確認や障害調査に役立てられます。
ガードレールを使ってリクエストを保護し、本番ワークフローの一部としてLLMまたはパートナーのガードレールを適用できます。
プレイグラウンド、APIエンドポイント、変数を使って、プロンプトテンプレートの作成、バージョン管理、再利用ができます。
フォールバック、負荷分散、再試行、リクエストタイムアウト、キャッシュ、仮想キーをサポートし、運用を制御できます。
ロールベースアクセス制御、サービスアカウント用APIキー、エンタープライズ向けガバナンス機能を使ってチーム運用ができます。
単一のAPIを通じてアプリケーションを複数のLLMプロバイダーに接続し、各統合を書き直さなくてもモデルアクセスを管理しやすく、プロバイダー間の切り替えも行いやすくします。
ログ、トレース、フィードバック、メタデータを確認して、性能上の問題を把握し、エラーをデバッグし、本番でのLLMインタラクションの挙動を監視します。
フォールバック、再試行、負荷分散などのガードレールやルーティング制御を適用し、リクエストを本番ポリシーの範囲内に保ちながら信頼性を高めます。
プロンプトテンプレート、バージョン、変数、プレイグラウンドでのテストを管理し、アプリケーションのワークフローに組み込む前にプロンプトを反復改善できます。
組織がより厳格な運用管理を必要とする場合に、ロールベースアクセス制御、SSO、デプロイ方法などのエンタープライズ向けガバナンス機能を利用します。
Portkeyは、Gen AIアプリケーション向けのAIゲートウェイ兼本番向けコントロールプレーンです。ゲートウェイのルーティング、可観測性、ガードレール、プロンプト管理を1つのプラットフォームにまとめています。
料金ページには、Freeプラン、月額49ドルのProductionプラン、カスタム価格のEnterpriseプランが表示されています。Freeプランはプロトタイピングとテスト向けで、ProductionおよびEnterpriseプランでは、より多くのガバナンス機能とサポート機能が追加されます。
サイトでは、Portkeyは統合API経由で利用できる本番AI向けのコントロールパネルとして説明されています。リクエストのルーティング、ログやトレースの確認、プロンプトの管理、ガードレールの適用を1か所で行いたいチーム向けに設計されています。
可観測性のページでは、Portkeyが各リクエストとレスポンスを、詳細なログ、トレース、フィードバック、メトリクスとともに記録すると説明されています。ゲートウェイのページでは、ルーティング、フォールバック、負荷分散、再試行、API/キー管理も強調されています。
料金ページでは、Enterpriseプランがプライベートクラウドへのデプロイ、VPCホスティング、データレイクへのデータエクスポート、SSO、高度なコンプライアンス機能をサポートすると記載されています。また、FreeプランとProductionプランは、カスタムのセキュリティ制御やデータレジデンシー保証を必要とする組織を対象としていないとも説明されています。
トラフィックデータは参考情報としてご利用ください。
www.tensorzero.com
TensorZero is an open-source LLMOps platform for building and operating production-grade LLM applications. Its stated scope combines an LLM gateway with observability, evaluation, optimization, and experimentation tools.
konghq.com
Kong AI Gatewayは、KongのAI接続プラットフォームでLLM、MCP、エージェント間トラフィックのガバナンスを一元化し、本番AIワークロードのセキュリティ、可観測性、ルーティング、コストを管理します。
helicone.ai
An open-source AI gateway and LLM observability platform for developers building AI apps.
eachlabs.ai
each::labs provides a single API for orchestrating more than 600 AI models, with routing, fallback handling, observability, and usage-based pricing. It is designed for teams building and operating production AI applications across video, image, audio, and text workflows.
trustedrouter.com
TrustedRouter is an OpenAI-compatible AI gateway for routing requests across hundreds of models and providers. It is designed for developers and teams that need configurable privacy routing, provider failover, and a verifiable prompt path.