Fiddler AI

Fiddler AIは、本番稼働のエージェント型AI向けの企業向けAI可観測性・セキュリティプラットフォームです。評価、監視、インラインガードレール、ガバナンスでエージェント全体を可視化・制御します。

概要

Fiddler AI は、AI エージェント向けのコントロールプレーンとして構築された、企業向け AI 可観測性・セキュリティプラットフォームです。テレメトリ、評価、監視、ガードレール、ガバナンスを組み合わせることで、チームはエージェントの動作を把握し、実行時にポリシーを適用できます。

この製品は、コーディングエージェントやマルチエージェントワークフローを含む、本番環境でエージェント型 AI や予測 AI を運用する組織を対象としています。資料では、エージェント階層全体の可視性、実行コンテキストを用いた根本原因分析、そして企業がすでに運用しているゲートウェイを通じたインライン強制が強調されています。

主な機能

標準テレメトリ

エージェントとのやり取り全体のライフサイクルから標準化されたテレメトリを収集し、何がどこで起きたかをチームが確認できるようにします。

信頼性の高い評価

開発中に評価を実行してデプロイ前のエージェントをテストし、実験や品質チェックも含めます。

継続的な監視

アラート、ダッシュボード、アプリケーションからスパンまでの階層的な可視性で、本番の挙動を監視します。

実行可能なポリシー

リクエストおよびレスポンス経路でインラインガードレールを適用し、有害な入力や出力がシステムを通過する前にブロックします。

監査可能なガバナンス

監査可能な証跡でエージェント群全体を追跡し、ガバナンスワークフローをサポートして、レビュー用の完全な証拠を保持します。

フリートインテリジェンス

開発者、モデル、チームごとに利用状況、支出、レイテンシ、スループット、採用状況を分析し、パフォーマンスと運用コストを結び付けます。

主なユースケース

顧客向けエージェントの本番対応
顧客向けエージェントを構築するチームは、公開前に挙動を評価し、その後、本番環境でハルシネーション、毒性、PII/PHI、脱獄の試みを監視できます。
コーディングエージェントの安全制御
コーディングエージェントを運用する組織は、ゲートウェイベースのインライン強制を使って、機密データがモデルに渡ることや応答として外部に出ることを防げます。
規制環境下の AI 監督
医療、金融サービス、その他の規制対象チームは、監査証跡とガバナンス証跡を保持して、レビューと監督に備えられます。
マルチエージェントの可視化とデバッグ
マルチエージェントシステムは、アプリケーション、セッション、エージェント、トレース、スパンの各レベルで監視でき、依存関係や障害点を明らかにできます。
コストとパフォーマンスの分析
プラットフォームチームは、開発者、モデル、チームごとにトークン使用量、支出、レイテンシ、スループット、採用状況を比較して、運用コストを把握できます。

Pros and Cons

Pros

可観測性、ガードレール、ガバナンスを別々のツールとして扱うのではなく、1 つのプラットフォームに統合しています。
開発時の評価と本番監視の両方を、エージェントのライフサイクル全体でサポートします。
後処理のスコアリングだけでなく、リクエストおよびレスポンス経路でインライン強制を提供します。
アプリケーションからセッション、エージェント、トレース、スパンまでの階層的な可視性を備えています。
SaaS、VPC、オンプレミス環境向けの導入オプションがあります。

Cons

公開ソースでは、OTel といくつかのフレームワーク例を除き、明示された統合先の詳細が限られています。
価格情報は一部のみ公開されており、無料のガードレール階層と Developer のトレース単価は示されていますが、Enterprise は営業への問い合わせが必要です。

FAQ

Fiddler の AI Control Plane とは何ですか？

Fiddler の Control Plane は、AI エージェントのライフサイクル全体にわたって、標準化されたテレメトリ、信頼性の高い評価、継続的な監視、実行可能なポリシー、監査可能なガバナンスを提供するシステムとして位置づけられています。ソースでは、単なる監視ではなく、強制とガバナンスを追加するものと説明されています。

誰向けですか？

ソースによると、これは本番環境で AI エージェントを運用する企業向けで、コーディングエージェントやマルチエージェントワークフローも含まれます。エージェント型システムに対する可視性、コンテキスト、制御、ランタイムのガードレールに重点を置いています。

このプラットフォームはチームが何をするのに役立ちますか？

この製品は、開発時の評価、本番監視、リクエストおよびレスポンス経路でのインラインガードレール、監査証跡を組み合わせます。また、トークン使用量、支出、レイテンシ、スループット、採用状況などのエージェントレベルのテレメトリも把握できます。

Fiddler は価格を公開していますか？

料金ページには、リアルタイムガードレール向けの無料プラン、1 トレースあたり 0.002 ドルの Developer プラン、営業への問い合わせが必要な Enterprise プランが記載されています。製品ページでは、SaaS、VPC、オンプレミスの導入オプションも説明されています。

既存のシステムとどのように連携しますか？

ソースではネイティブの OTel サポートが挙げられ、LangGraph、Amazon Bedrock、AWS Strands Agents、Google ADK などのフレームワークとの互換性にも言及しています。また、Control Plane は組織がすでに運用している LLM ゲートウェイと統合できると説明されています。

Quick Facts

カテゴリー: AI 可観測性・セキュリティプラットフォーム
主な用途: 企業向け AI エージェントのコントロールプレーン
導入形態: SaaS、VPC、またはオンプレミス
価格: 無料、Developer、Enterprise プラン
Webサイト: fiddler.ai
注目のワークフロー: 開発時の評価と、本番での監視およびガードレール