標準化遙測
在整個生命週期中，從 agent 互動收集標準化遙測，讓團隊能檢視發生了什麼以及發生在哪裡。
Fiddler AI
認領Fiddler AI 是企業級 AI 可觀測性與安全平台，適用於在正式環境運行 agentic systems 的團隊。整合評估、監控、inline guardrails 與治理，協助組織掌握並控管整個 agent 生命週期。
總覽
Fiddler AI 是企業級 AI 可觀測性與安全平台，作為 AI agents 的控制平面而打造。它結合遙測、評估、監控、guardrails 與治理，讓團隊能了解 agents 正在做什麼，並在執行時強制執行政策。
此產品主要面向在正式環境中運行 agentic 與 predictive AI 的組織，包括 coding agents 與 multi-agent workflows。其資料強調跨 agent 階層的可視性、結合執行上下文的根因分析，以及透過企業既有 gateway 進行 inline 強制執行。
核心功能
可靠評估
在開發期間執行評估，以在部署前測試 agents，包括實驗與品質檢查。
持續監控
透過警示、儀表板，以及從應用程式到 span 的階層式可視性，監控正式環境中的行為。
可強制執行的政策
在請求與回應路徑上套用 inline guardrails，在內容通過系統之前封鎖有害輸入與輸出。
可稽核治理
透過可稽核的軌跡，保留整個 agent fleet 的完整審查證據，並支援治理工作流程。
機群智慧分析
依開發者、模型與團隊分析使用量、支出、延遲、吞吐量與採用情況，將效能與營運成本連結起來。
常見使用案例
面向客戶的 agents 之正式上線準備
建立面向客戶的 agents 的團隊，可以在上線前評估行為，之後在正式環境中監控幻覺、毒性、PII/PHI 與 jailbreak 嘗試。
coding agent 安全控管
擁有 coding agents 的組織可使用基於 gateway 的 inline 強制執行，阻止敏感資料傳送到模型或在回應中外洩。
受監管 AI 監督
醫療保健、金融服務與其他受監管團隊可保留稽核軌跡與治理證據，以供審查與監督。
多 agent 可視性與除錯
multi-agent systems 可在應用程式、session、agent、trace 與 span 層級進行監控，以揭示依賴關係與故障點。
成本與效能分析
平台團隊可比較不同開發者、模型與團隊的 token 使用量、支出、延遲、吞吐量與採用情況，以了解營運成本。
Pros and Cons
Pros
- 將可觀測性、guardrails 與治理整合在單一平台，而非分散為獨立工具。
- 同時支援開發階段評估與正式環境監控，涵蓋整個 agent 生命週期。
- 提供在請求與回應路徑上的 inline 強制執行，而不僅是事後評分。
- 提供從應用程式到 session、agent、trace 與 span 的階層式可視性。
- 支援 SaaS、VPC 與 on-premise 環境的部署選項。
Cons
- 公開來源對於已知整合的說明有限，除了 OTel 與少數 framework 範例之外細節不多。
- 定價僅部分透明：提供免費 guardrails 方案與 Developer 每條 trace 的價格，而 Enterprise 需要聯絡銷售。
FAQ
Fiddler 的 AI Control Plane 是什麼？
Fiddler 將其 Control Plane 定位為一套可在整個 AI agent 生命週期中提供標準化遙測、可靠評估、持續監控、可執行政策與可稽核治理的系統。來源描述其功能不僅是監控，還包含強制執行與治理。
它適合誰使用？
來源指出，這是為在正式環境中運行 AI agents 的企業而設，包含 coding agents 與 multi-agent workflows。它著重於為 agentic systems 提供可視性、上下文、控制與 runtime guardrails。
這個平台可幫助團隊做什麼？
這項產品結合開發階段評估、正式環境監控、在請求與回應路徑上的 inline guardrails，以及稽核軌跡。它也會揭露 agent 層級的遙測，例如 token 使用量、支出、延遲、吞吐量與採用情況。
Fiddler 有公開定價嗎？
定價頁面顯示有一個用於即時 guardrails 的 Free 方案、一個每條 trace 收費 $0.002 的 Developer 方案，以及需要聯絡銷售的 Enterprise 方案。產品頁面也描述了 SaaS、VPC 與 on-premise 的部署選項。
它如何融入既有系統？
來源提到原生 OTel 支援，並列出與 LangGraph、Amazon Bedrock、AWS Strands Agents 和 Google ADK 等 framework 的相容性。它也說 Control Plane 可整合組織已在使用的 LLM gateway。
Quick Facts
- 類別
- AI 可觀測性與安全平台
- 主要用途
- 企業 AI agents 的控制平面
- 部署方式
- SaaS、VPC 或 on-premise
- 定價
- Free、Developer 與 Enterprise 方案
- 網站
- fiddler.ai
- 代表性工作流程
- 在開發中進行評估，並在正式環境中進行監控與 guardrails