LLM gateway と request routing
OpenAI-style の call を単一の gateway 経由で routing するか、provider-native SDK 用に passthrough endpoint を使えます。すべての request は記録されます。
Respanとは？
Respan は、observability、evaluation、prompt management、gateway routing を一箇所で扱いたいチーム向けの LLM engineering platform です。サイトでは、単一の workflow から LLM traffic の routing、観測、評価、最適化、deployment を行う system として位置付けられています。
この product は production における LLM operations に重点を置いています。各 call の traces、usage と cost の dashboards、quality check 用の evaluators、そして retries、fallbacks、caching、rate limits のための gateway controls を備えています。AI agents やその他の LLM-powered 機能を提供し、挙動の追跡と production issue の削減が必要なチームを対象としています。
Respanでできること
Observability と trace inspection
traces で call を確認し、spans で latency を見たり、logs を追跡したり、customer identifier や metadata で filter して production の挙動を把握できます。
Usage monitoring と alerts
dashboards で request、tokens、errors、latency、cost を監視し、model や user で分けた表示や、threshold 超過時の alerts を利用できます。
Evaluation workflows
rule checks、LLM judges、human review、datasets、experiments を組み合わせた evaluation workflow を、prompt や model の variant をまたいで作成できます。
Prompt 管理と deployment
version control、collaborative editing、one-click deployment、release management、model playground を使って prompts を管理できます。
Reliability と spend controls
gateway と settings から、retries、fallback models、load balancing、caching、key limits、spend controls を扱えます。
利用シーン
“LLM gateway を運用する”
model traffic を1つの endpoint に routing し、各 request を記録し、provider で error や rate limit が発生した場合は fallbacks や retries を使います。
“ライブ production traffic を監視する”
traces、latency、token usage、cost を dashboards で確認し、production regression をすばやく把握します。
“リリース前に prompts と models をテストする”
traces や CSV から datasets を作成し、変更を merge する前に prompt や model の variant 全体で experiments を実行します。
“構造化された evaluations を実行する”
rule checks、LLM judges、human review を1つの workflow にまとめて、実際の production traffic と offline samples を採点します。
“制御しながら prompt 変更を出荷する”
prompts、versions、rollout logic、複数 model へのアクセスを使って、workflow を UI から production へ移行します。
よくある質問
Respan とは何ですか？
Respan は、observability、evals、prompt 最適化、LLM gateway を1つのシステムにまとめた LLM engineering platform として紹介されています。
Respan には有料プランがありますか？
ソースには Free プラン、Team プラン、Enterprise プランが掲載されています。Team プランは年額請求で月額 $199、Enterprise は sales への問い合わせとなっています。
無料プランはありますか？
はい。pricing page には、logs、scores、datasets、evaluators、prompts を含む free tier が掲載されており、Team プランでは unlimited な datasets、evaluators、prompts が追加されます。
これらのページで Respan が対応している integration はすべて掲載されていますか？
この product には OpenTelemetry support の注記がありますが、ソースには詳細な integration documentation や provider 一覧は含まれていません。
Respan はどのような workflow を重視していますか？
homepage と pricing page では、tracing、dashboards、evaluation workflows、さらに fallbacks や caching などの gateway 機能が強調されています。
クイック情報
- カテゴリ
- LLM Engineering Platform
- Website
- keywordsai.co
- 主な用途
- LLM apps の observability、evals、prompt management、gateway routing
- プラン
- Free, Team, Enterprise
- Team プラン
- 月額 $199、年額請求
- デプロイ
- Cloud; Enterprise mentions self-hosted
Respan のトラフィック分析
トラフィックデータは参考情報としてご利用ください。
- ドメイン評価
- 48
Respanの代替品
HeimWall
heimwall.ai
HeimWall は、Cursor、Claude Code、Copilot、Windsurf などの AI コーディングツールに送信されるプロンプトから、シークレットや PII、その他の機密データを検出する macOS アプリ兼チーム向けオブザーバビリティ製品です。生のプロンプトはデフォルトでデバイス内に保持し、チームレポートには編集済みのシグナルのみを共有します。
Kiro
kiro.dev
Kiroは開発者とチーム向けのAIコーディング・エージェントエンジニアリング基盤です。プロンプトを仕様化し、IDE、CLI、Webで実装と検証を支援します。
Arize AX
arize.com
AIエージェントとAIアプリの追跡・評価・改善を支援するAIエンジニアリング基盤
VoltAgent
voltagent.dev
VoltAgentは、可観測性、自動化、デプロイ、評価に対応するVoltOpsを備えたオープンソースのTypeScript AIエージェントフレームワークです。