# Respan Plataforma de ingeniería de LLM para observabilidad, evaluaciones, gestión de prompts y enrutamiento mediante gateway en un solo flujo de trabajo. - Findings24: - Sitio web: - Precios: Freemium - Categorías: Asistente de Código IA, Herramientas IA Dev, Observabilidad de IA ## ¿Qué es Respan? Respan es una plataforma de ingeniería de LLM para equipos que buscan observabilidad, evaluación, gestión de prompts y enrutamiento mediante gateway en un solo lugar. El sitio la presenta como un sistema para enrutar, observar, evaluar, optimizar y desplegar tráfico de LLM desde un único flujo de trabajo. El producto se centra en las operaciones de LLM en producción: trazas para cada llamada, paneles para el uso y el coste, evaluadores para comprobaciones de calidad y controles del gateway para reintentos, alternativas, almacenamiento en caché y límites de tasa. Está dirigido a equipos que desarrollan agentes de IA y otras funciones basadas en LLM que necesitan hacer seguimiento del comportamiento y reducir los problemas en producción. ## ¿Qué puede hacer Respan? ### Gateway de LLM y enrutamiento de solicitudes Enruta llamadas con el estilo de OpenAI a través de un único gateway o utiliza endpoints de passthrough para SDK nativos de proveedores, mientras se registra cada solicitud. ### Observabilidad e inspección de trazas Inspecciona las llamadas en trazas, consulta la latencia en los spans, realiza un seguimiento de los registros y filtra por identificadores de clientes o metadatos para comprender el comportamiento en producción. ### Supervisión del uso y alertas Supervisa solicitudes, tokens, errores, latencia y coste en paneles, con segmentación por modelo o usuario y alertas cuando se superan los umbrales. ### Flujos de trabajo de evaluación Crea flujos de trabajo de evaluación que combinan comprobaciones basadas en reglas, jueces LLM, revisión humana, conjuntos de datos y experimentos con distintas variantes de prompts y modelos. ### Gestión y despliegue de prompts Gestiona prompts con control de versiones, edición colaborativa, despliegue con un clic, gestión de lanzamientos y un entorno de pruebas de modelos. ### Controles de fiabilidad y gasto Gestiona reintentos, modelos alternativos, balanceo de carga, almacenamiento en caché, límites de claves y controles de gasto desde el gateway y la configuración. ## Casos de uso ### Operar un gateway de LLM Enruta el tráfico de modelos mediante un endpoint, registra cada solicitud y utiliza alternativas o reintentos cuando un proveedor produce un error o aplica límites de tasa. ### Supervisar el tráfico de producción en tiempo real Observa trazas, latencia, uso de tokens y coste en paneles para detectar rápidamente las regresiones en producción. ### Probar prompts y modelos antes del lanzamiento Crea conjuntos de datos a partir de trazas o archivos CSV y ejecuta experimentos con distintas variantes de prompts y modelos antes de integrar los cambios. ### Ejecutar evaluaciones estructuradas Combina comprobaciones basadas en reglas, jueces LLM y revisión humana en un único flujo de trabajo para puntuar tráfico real de producción y muestras sin conexión. ### Lanzar cambios en prompts con control Utiliza prompts, versiones, lógica de despliegue gradual y acceso a múltiples modelos para promocionar flujos de trabajo desde la interfaz de usuario hasta producción. ## Preguntas frecuentes ### ¿Qué es Respan? Respan se presenta como una plataforma de ingeniería de LLM que combina observabilidad, evaluaciones, optimización de prompts y un gateway de LLM en un solo sistema. ### ¿Respan tiene planes de pago? La fuente muestra un plan Free, un plan Team y un plan Enterprise. El plan Team figura a 199 $ al mes, con facturación anual, mientras que para Enterprise hay que contactar con ventas. ### ¿Hay un nivel gratuito? Sí. La página de precios indica un nivel gratuito con registros, puntuaciones, conjuntos de datos, evaluadores y prompts, además de un plan Team que añade conjuntos de datos, evaluadores y prompts ilimitados. ### ¿Respan documenta todas las integraciones compatibles en estas páginas? El producto incluye una mención de compatibilidad con OpenTelemetry, pero la fuente no proporciona documentación detallada de las integraciones ni una lista completa de proveedores. ### ¿Qué flujos de trabajo destaca Respan? La página de inicio y la página de precios destacan el seguimiento mediante trazas, los paneles, los flujos de trabajo de evaluación, la gestión de prompts y las funciones del gateway, como alternativas y almacenamiento en caché. ## Datos rápidos - **Categoría**: Plataforma de ingeniería de LLM - **Sitio web**: keywordsai.co - **Uso principal**: Observabilidad, evaluaciones, gestión de prompts y enrutamiento mediante gateway para aplicaciones de LLM - **Planes**: Free, Team, Enterprise - **Plan Team**: 199 $ al mes, con facturación anual - **Despliegue**: Nube; Enterprise menciona la opción autoalojada