Respan

Respan は、LLM の observability、evals、prompt 管理、gateway routing を一元化する engineering platform。production traffic の監視、変更のテスト、モデル信頼性の管理を1つの workflow で行えます。

AIエージェント開発 AI開発者ツール監視・ログ管理

ウェブサイトを訪問

概要

Respan は、observability、evaluation、prompt management、gateway routing を一箇所で扱いたいチーム向けの LLM engineering platform です。サイトでは、単一の workflow から LLM traffic の routing、観測、評価、最適化、deployment を行う system として位置付けられています。

この product は production における LLM operations に重点を置いています。各 call の traces、usage と cost の dashboards、quality check 用の evaluators、そして retries、fallbacks、caching、rate limits のための gateway controls を備えています。AI agents やその他の LLM-powered 機能を提供し、挙動の追跡と production issue の削減が必要なチームを対象としています。

機能

LLM gateway と request routing

OpenAI-style の call を単一の gateway 経由で routing するか、provider-native SDK 用に passthrough endpoint を使えます。すべての request は記録されます。

Observability と trace inspection

traces で call を確認し、spans で latency を見たり、logs を追跡したり、customer identifier や metadata で filter して production の挙動を把握できます。

Usage monitoring と alerts

dashboards で request、tokens、errors、latency、cost を監視し、model や user で分けた表示や、threshold 超過時の alerts を利用できます。

Evaluation workflows

rule checks、LLM judges、human review、datasets、experiments を組み合わせた evaluation workflow を、prompt や model の variant をまたいで作成できます。

Prompt 管理と deployment

version control、collaborative editing、one-click deployment、release management、model playground を使って prompts を管理できます。

Reliability と spend controls

gateway と settings から、retries、fallback models、load balancing、caching、key limits、spend controls を扱えます。

ユースケース

LLM gateway を運用する
model traffic を1つの endpoint に routing し、各 request を記録し、provider で error や rate limit が発生した場合は fallbacks や retries を使います。
ライブ production traffic を監視する
traces、latency、token usage、cost を dashboards で確認し、production regression をすばやく把握します。
リリース前に prompts と models をテストする
traces や CSV から datasets を作成し、変更を merge する前に prompt や model の variant 全体で experiments を実行します。
構造化された evaluations を実行する
rule checks、LLM judges、human review を1つの workflow にまとめて、実際の production traffic と offline samples を採点します。
制御しながら prompt 変更を出荷する
prompts、versions、rollout logic、複数 model へのアクセスを使って、workflow を UI から production へ移行します。

Pros and Cons

Pros

observability、evals、prompt tools、gateway routing を1つの platform にまとめています。
fallbacks、retries、caching、spend limits、alerts などの具体的な運用 control を示しています。
production monitoring と offline/online evaluation workflows の両方を備えています。
free tier があり、team と enterprise 利用への明確な移行経路があります。
pricing page には ISO 27001、SOC 2、GDPR、HIPAA 関連の options を含む security と compliance 項目が記載されています。

Cons

source には完全な integration catalog がないため、特定の stack に対する setup の適合性はこのページだけでは不明です。
いくつかの capabilities は homepage と pricing page で高レベルに説明されていますが、詳細な product docs は提供された evidence に含まれていません。

FAQ

Respan とは何ですか？

Respan は、observability、evals、prompt 最適化、LLM gateway を1つのシステムにまとめた LLM engineering platform として紹介されています。

Respan には有料プランがありますか？

ソースには Free プラン、Team プラン、Enterprise プランが掲載されています。Team プランは年額請求で月額 $199、Enterprise は sales への問い合わせとなっています。

無料プランはありますか？

はい。pricing page には、logs、scores、datasets、evaluators、prompts を含む free tier が掲載されており、Team プランでは unlimited な datasets、evaluators、prompts が追加されます。

これらのページで Respan が対応している integration はすべて掲載されていますか？

この product には OpenTelemetry support の注記がありますが、ソースには詳細な integration documentation や provider 一覧は含まれていません。

Respan はどのような workflow を重視していますか？

homepage と pricing page では、tracing、dashboards、evaluation workflows、さらに fallbacks や caching などの gateway 機能が強調されています。

Quick Facts

カテゴリ: LLM Engineering Platform
Website: keywordsai.co
主な用途: LLM apps の observability、evals、prompt management、gateway routing
プラン: Free, Team, Enterprise
Team プラン: 月額 $199、年額請求
デプロイ: Cloud; Enterprise mentions self-hosted