# Respan 可観測性、評価、プロンプト管理、ゲートウェイルーティング向けLLM開発基盤 - Findings24: - ウェブサイト: - 料金: Freemium - カテゴリー: AIコードアシスタント, AI開発者ツール, AIオブザーバビリティ ## Respanとは？ Respan は、observability、evaluation、prompt management、gateway routing を一箇所で扱いたいチーム向けの LLM engineering platform です。サイトでは、単一の workflow から LLM traffic の routing、観測、評価、最適化、deployment を行う system として位置付けられています。 この product は production における LLM operations に重点を置いています。各 call の traces、usage と cost の dashboards、quality check 用の evaluators、そして retries、fallbacks、caching、rate limits のための gateway controls を備えています。AI agents やその他の LLM-powered 機能を提供し、挙動の追跡と production issue の削減が必要なチームを対象としています。 ## Respanでできること ### LLM gateway と request routing OpenAI-style の call を単一の gateway 経由で routing するか、provider-native SDK 用に passthrough endpoint を使えます。すべての request は記録されます。 ### Observability と trace inspection traces で call を確認し、spans で latency を見たり、logs を追跡したり、customer identifier や metadata で filter して production の挙動を把握できます。 ### Usage monitoring と alerts dashboards で request、tokens、errors、latency、cost を監視し、model や user で分けた表示や、threshold 超過時の alerts を利用できます。 ### Evaluation workflows rule checks、LLM judges、human review、datasets、experiments を組み合わせた evaluation workflow を、prompt や model の variant をまたいで作成できます。 ### Prompt 管理と deployment version control、collaborative editing、one-click deployment、release management、model playground を使って prompts を管理できます。 ### Reliability と spend controls gateway と settings から、retries、fallback models、load balancing、caching、key limits、spend controls を扱えます。 ## 利用シーン ### LLM gateway を運用する model traffic を1つの endpoint に routing し、各 request を記録し、provider で error や rate limit が発生した場合は fallbacks や retries を使います。 ### ライブ production traffic を監視する traces、latency、token usage、cost を dashboards で確認し、production regression をすばやく把握します。 ### リリース前に prompts と models をテストする traces や CSV から datasets を作成し、変更を merge する前に prompt や model の variant 全体で experiments を実行します。 ### 構造化された evaluations を実行する rule checks、LLM judges、human review を1つの workflow にまとめて、実際の production traffic と offline samples を採点します。 ### 制御しながら prompt 変更を出荷する prompts、versions、rollout logic、複数 model へのアクセスを使って、workflow を UI から production へ移行します。 ## よくある質問 ### Respan とは何ですか？ Respan は、observability、evals、prompt 最適化、LLM gateway を1つのシステムにまとめた LLM engineering platform として紹介されています。 ### Respan には有料プランがありますか？ ソースには Free プラン、Team プラン、Enterprise プランが掲載されています。Team プランは年額請求で月額 $199、Enterprise は sales への問い合わせとなっています。 ### 無料プランはありますか？ はい。pricing page には、logs、scores、datasets、evaluators、prompts を含む free tier が掲載されており、Team プランでは unlimited な datasets、evaluators、prompts が追加されます。 ### これらのページで Respan が対応している integration はすべて掲載されていますか？ この product には OpenTelemetry support の注記がありますが、ソースには詳細な integration documentation や provider 一覧は含まれていません。 ### Respan はどのような workflow を重視していますか？ homepage と pricing page では、tracing、dashboards、evaluation workflows、さらに fallbacks や caching などの gateway 機能が強調されています。 ## クイック情報 - **カテゴリ**: LLM Engineering Platform - **Website**: keywordsai.co - **主な用途**: LLM apps の observability、evals、prompt management、gateway routing - **プラン**: Free, Team, Enterprise - **Team プラン**: 月額 $199、年額請求 - **デプロイ**: Cloud; Enterprise mentions self-hosted