Portkey

Portkeyは、統合ゲートウェイ、可観測性、ガードレール、プロンプト管理を備えたGen AIチーム向けの本番AIプラットフォーム。無料プラン、商用プラン、エンタープライズ向け料金も用意。

Portkeyの機能

Portkeyは、Gen AIビルダー向けの本番向けスタックです。AIゲートウェイ、可観測性、ガードレール、ガバナンス、プロンプト管理を1つのプラットフォームに統合し、AIアプリケーションを本番環境へ移行して中央のコントロールプレーンから管理したいチーム向けに提供されています。

サイトでは、Portkeyは本番AI向けの統合APIとコントロールパネルとして紹介されており、無料のプロトタイピング向けティアから本番向け、エンタープライズ向けの提供まで幅広いプランがあります。各製品ページ全体を通して、このプラットフォームはモデルトラフィックのルーティング、AIインタラクションの記録、ガードレールの適用、利用状況とコストの可視化を中心に位置付けられています。

主な機能

AIゲートウェイと統合API

統合APIを通じてモデルのトラフィックをルーティングし、各プロバイダーを個別に接続しなくても複数のLLMへのアクセスを管理できます。

可観測性とトレース

リクエスト、レスポンス、トレース、フィードバック、カスタムメタデータ、フィルターを記録し、モデルの挙動確認や障害調査に役立てられます。

リクエストのガードレール

ガードレールを使ってリクエストを保護し、本番ワークフローの一部としてLLMまたはパートナーのガードレールを適用できます。

プロンプト管理

プレイグラウンド、APIエンドポイント、変数を使って、プロンプトテンプレートの作成、バージョン管理、再利用ができます。

ルーティングと制御

フォールバック、負荷分散、再試行、リクエストタイムアウト、キャッシュ、仮想キーをサポートし、運用を制御できます。

セキュリティとガバナンス

ロールベースアクセス制御、サービスアカウント用APIキー、エンタープライズ向けガバナンス機能を使ってチーム運用ができます。

チームによるPortkeyの一般的な使い方

モデルアクセスを統合する
単一のAPIを通じてアプリケーションを複数のLLMプロバイダーに接続し、各統合を書き直さなくてもモデルアクセスを管理しやすく、プロバイダー間の切り替えも行いやすくします。
AIアプリを監視・デバッグする
ログ、トレース、フィードバック、メタデータを確認して、性能上の問題を把握し、エラーをデバッグし、本番でのLLMインタラクションの挙動を監視します。
本番リクエストを保護する
フォールバック、再試行、負荷分散などのガードレールやルーティング制御を適用し、リクエストを本番ポリシーの範囲内に保ちながら信頼性を高めます。
プロンプトを作成・バージョン管理する
プロンプトテンプレート、バージョン、変数、プレイグラウンドでのテストを管理し、アプリケーションのワークフローに組み込む前にプロンプトを反復改善できます。
エンタープライズ規模でAIを運用する
組織がより厳格な運用管理を必要とする場合に、ロールベースアクセス制御、SSO、デプロイ方法などのエンタープライズ向けガバナンス機能を利用します。

Pros and Cons

Pros

ゲートウェイ、可観測性、ガードレール、プロンプト管理を1つのプラットフォームに統合しています。
1,600以上のLLMにアクセスできる統合APIを提供しています。
リクエスト、トレース、フィードバック、メタデータを記録し、デバッグと監視に役立ちます。
フォールバック、再試行、負荷分散、キャッシュ、仮想キーなどの運用制御をサポートしています。
より大きな組織向けに、ガバナンス、デプロイ、サポートのオプションを備えたエンタープライズ層があります。

Cons

料金ページでは、Freeプランは本番ワークロードには適していないとされています。
Productionプランは、カスタムのセキュリティ制御やデータレジデンシー保証を必要とする組織には推奨されていません。
プライベートクラウドへのデプロイ、VPCホスティング、高度なコンプライアンスなど、一部のエンタープライズ機能はカスタム価格向けに限定されています。

FAQ

Portkeyとは何ですか？

Portkeyは、Gen AIアプリケーション向けのAIゲートウェイ兼本番向けコントロールプレーンです。ゲートウェイのルーティング、可観測性、ガードレール、プロンプト管理を1つのプラットフォームにまとめています。

Portkeyには無料プランと有料プランがありますか？

料金ページには、Freeプラン、月額49ドルのProductionプラン、カスタム価格のEnterpriseプランが表示されています。Freeプランはプロトタイピングとテスト向けで、ProductionおよびEnterpriseプランでは、より多くのガバナンス機能とサポート機能が追加されます。

AIワークフローの中でPortkeyはどのように使われますか？

サイトでは、Portkeyは統合API経由で利用できる本番AI向けのコントロールパネルとして説明されています。リクエストのルーティング、ログやトレースの確認、プロンプトの管理、ガードレールの適用を1か所で行いたいチーム向けに設計されています。

Portkeyにはどのような機能が含まれますか？

可観測性のページでは、Portkeyが各リクエストとレスポンスを、詳細なログ、トレース、フィードバック、メトリクスとともに記録すると説明されています。ゲートウェイのページでは、ルーティング、フォールバック、負荷分散、再試行、API/キー管理も強調されています。

サイトで指摘されている主な制限は何ですか？

料金ページでは、Enterpriseプランがプライベートクラウドへのデプロイ、VPCホスティング、データレイクへのデータエクスポート、SSO、高度なコンプライアンス機能をサポートすると記載されています。また、FreeプランとProductionプランは、カスタムのセキュリティ制御やデータレジデンシー保証を必要とする組織を対象としていないとも説明されています。

Quick Facts

カテゴリ: AIゲートウェイ / 本番AIプラットフォーム
主なユーザー: AIチームとGenAIビルダー
プラットフォーム: WebベースのコントロールパネルとAPI
ソースドメイン: portkey.ai
料金: 無料プラン、月額49ドルのProductionプラン、カスタムのEnterprise料金
注目のワークフロー: リクエストのルーティング、インタラクションの可観測、プロンプト管理、ガードレールの適用