Pruebas automatizadas de modelos
Ejecuta más de 100 pruebas integradas y personalizables para evaluar alucinaciones, exhaustividad, relevancia, toxicidad, sesgo y otras características de los resultados.
Plataforma de gobernanza y observabilidad de IA para probar, supervisar y controlar sistemas de ML y LLM.
Openlayer es una plataforma de gobernanza y observabilidad de IA para evaluar, supervisar y controlar sistemas de ML y LLM. El producto combina evaluación offline, trazabilidad en producción, barreras de protección en tiempo real y flujos de trabajo automatizados de cumplimiento, para que los equipos puedan probar los sistemas antes de su lanzamiento y supervisarlos en producción.
El sitio presenta Openlayer para equipos que desarrollan aplicaciones de GenAI, agentes, copilotos, sistemas de generación aumentada por recuperación y modelos tradicionales de ML. Ofrece pruebas estructuradas, trazabilidad de solicitudes, comprobaciones de calidad de datos y alineación con estándares como NIST, ISO/IEC 42001, OWASP y la Ley de IA de la UE.
Ejecuta más de 100 pruebas integradas y personalizables para evaluar alucinaciones, exhaustividad, relevancia, toxicidad, sesgo y otras características de los resultados.
Compara prompts, proveedores de modelos y cambios en los sistemas para detectar regresiones y hacer seguimiento de las mejoras a lo largo del tiempo.
Traza prompts, llamadas a herramientas, pasos intermedios, respuestas, latencia y costes en pipelines de LLM y flujos de trabajo de agentes.
Ejecuta comprobaciones de seguridad y rendimiento en tiempo real y configura alertas para problemas como inyección de prompts, filtraciones de datos, picos de latencia y contenido inapropiado.
Usa SDK, API, flujos de trabajo de CLI, GitHub Actions y procesos basados en Git para activar pruebas como parte del desarrollo y el despliegue.
Facilita la revisión y los comentarios compartidos entre ingenieros, responsables de producto, investigadores y otras partes interesadas en un único espacio de trabajo.
Evalúa prompts, resultados de modelos y candidatos a lanzamiento antes de publicarlos mediante suites de pruebas, comparaciones y puntuación de LLM-as-a-judge para detectar regresiones de forma temprana.
Supervisa sistemas de GenAI activos para detectar inyección de prompts, resultados tóxicos, filtraciones de datos y problemas de latencia y costes; después, investiga los fallos con trazas completas de las solicitudes.
Ejecuta comprobaciones automatizadas sobre los datos entrantes para detectar cambios de esquema, drift y anomalías antes de que los datos defectuosos lleguen a los modelos.
Coordina la revisión entre ingenieros, responsables de producto, investigadores y otras partes interesadas mediante resultados de evaluación compartidos, comentarios y flujos de trabajo de comparación.
Alinea los sistemas de IA con marcos de gobernanza y cumplimiento mediante flujos de trabajo de pruebas y supervisión compatibles con estándares como NIST, ISO/IEC 42001, OWASP y la Ley de IA de la UE.
Openlayer admite pruebas estructuradas para LLM y modelos de ML, incluida la puntuación de LLM-as-a-judge, la evaluación basada en rúbricas, la cobertura de pruebas de prompts y las comparaciones entre versiones o prompts.
Las páginas de origen indican compatibilidad con OpenAI, Anthropic, Hugging Face, LangChain, OpenTelemetry, Snowflake, GitHub Actions, GitLab CI y más, según el flujo de trabajo y el área del producto.
Openlayer puede trazar prompts, llamadas a herramientas, latencia, costes, respuestas de modelos y modos de fallo en flujos de trabajo de varios pasos y basados en recuperación.
La página de precios muestra un plan de prueba Basic y un plan Enterprise. Basic incluye 20.000 inferencias al mes, acceso a CLI/SDK/API y asistencia de la comunidad, mientras que Enterprise añade opciones como controles de acceso para equipos, despliegue on-premises, explicabilidad, SAML SSO y acompañamiento personalizado durante la incorporación.
Los datos de tráfico son solo como referencia.
confident-ai.com
Plataforma de calidad de IA para rastrear, probar, supervisar y mejorar sistemas de inteligencia artificial.
openlit.io
Plataforma de observabilidad de LLM de código abierto, basada en OpenTelemetry, para supervisar, rastrear y evaluar aplicaciones de IA. Gratuita para alojar por cuenta propia y diseñada para instrumentar aplicaciones con cambios mínimos de código.
lunary.ai
Plataforma de observabilidad y gestión de prompts para aplicaciones basadas en modelos de lenguaje (LLM). Ayuda a los equipos a supervisar, mejorar y proteger chatbots, agentes y otros flujos de trabajo con LLM.
braintrust.dev
Plataforma de observabilidad de IA para rastrear el comportamiento en producción, evaluar modelos y detectar regresiones antes de que lleguen a los usuarios.
deepchecks.com
Plataforma para evaluar, probar y monitorizar LLM, prompts, modelos, RAG y agentes
whylabs.ai
Plataforma de observabilidad de IA y proyecto de código abierto para registro con preservación de la privacidad, monitorización de IA y seguridad de LLM.