Enrutar solicitudes de agentes
Gateway, en fase beta, selecciona modelos en cada turno usando factores como la dificultad de la tarea, la longitud del contexto y el tamaño de la caché. Crea un perfil de costos a partir del tráfico de cada agente.
AI21
Paid
AI21 ofrece API de modelos fundacionales y una pasarela beta para enrutar, almacenar en caché y compactar el contexto del tráfico de agentes. También trabaja con empresas en modelos dedicados para cargas de trabajo específicas.
¿Qué es AI21?
AI21 ofrece una pila modular de IA empresarial que abarca API de modelos fundacionales y herramientas para optimizar los flujos de trabajo de agentes existentes. Los equipos pueden usar los modelos Jamba mediante API o conectar la URL base de API de un agente a AI21 Gateway para enrutar solicitudes, almacenarlas en caché y compactar el contexto.
Gateway está actualmente en fase beta y es gratuito durante la vista previa. AI21 ofrece optimización conjunta del modelo y su entorno de ejecución en sus servicios empresariales de posentrenamiento; confirme el alcance y la entrega con el equipo. El ajuste de modelos dedicados se acuerda con AI21 para cargas de trabajo empresariales definidas; el uso de las API de modelos fundacionales tiene precios independientes y opciones de planes personalizados.
¿Qué puede hacer AI21?
Compactar y almacenar en caché el contexto
Reduce el contexto redundante en las indicaciones, los esquemas de herramientas y las salidas, y ajusta el contexto para el almacenamiento en caché. Gateway tiene en cuenta la ejecución completa del agente al hacer recomendaciones.
Revisar recomendaciones de optimización
Examina los cambios recomendados y los ahorros previstos; después, aprueba los cambios antes de que lleguen a producción.
Acceder a modelos fundacionales mediante API
Usa Jamba Mini o Jamba Large mediante API y SDK de modelos fundacionales, con cargos por tokens de entrada y salida según el uso.
Acordar el ajuste de modelos dedicados
Trabaja con AI21 para ajustar un modelo abierto pequeño dedicado a cargas de trabajo empresariales definidas.
Casos de uso
“Optimizar una pila de agentes existente”
Conecta el tráfico de los agentes a Gateway para revisar oportunidades de enrutamiento, contexto y almacenamiento en caché sin reemplazar el arnés del agente.
“Crear aplicaciones lingüísticas”
Usa API de modelos fundacionales para tareas de instrucciones o chat, con facturación basada en los tokens de entrada y salida del modelo.
“Desarrollar un modelo específico para una carga de trabajo”
Usa el ajuste de modelos dedicados para una carga de trabajo empresarial definida y consulta con AI21 los requisitos de entrega.
Preguntas frecuentes
¿Qué partes puedo probar sin pagar?
AI21 Gateway es gratuito durante su vista previa beta. La página oficial de precios anuncia una prueba independiente de las API de modelos fundacionales con 10 $ en créditos y sin tarjeta de crédito; confirme la duración y los requisitos aplicables al registrarse. El acceso de pago a las API se factura según el uso.
¿Cómo se cobran las solicitudes a la API de Jamba?
Jamba Mini cuesta 0,20 $ por cada millón de tokens de entrada y 0,40 $ por cada millón de tokens de salida. Jamba Large cuesta 2 $ por cada millón de tokens de entrada y 8 $ por cada millón de tokens de salida. Estas son tarifas de API de modelos fundacionales, independientes del trabajo con modelos dedicados.
¿Cómo se conecta un agente existente a Gateway?
Configura la URL base de API del agente para que apunte a AI21 Gateway. Gateway se sitúa entre el arnés y los modelos, crea un perfil de costos a partir del tráfico y presenta recomendaciones para que las revises antes de aplicar cambios en producción.
¿Están disponibles todas las partes de la pila de la misma manera?
No. Gateway está en fase beta. El entrenamiento de modelos dedicados y la optimización del modelo y su entorno de ejecución se acuerdan con AI21 para cargas empresariales. Las API de modelos fundacionales ofrecen acceso según el uso y planes personalizados.
Datos rápidos
- Público principal
- Equipos de IA empresariales y desarrolladores
- Entradas principales
- Solicitudes a modelos, tráfico de agentes y cargas de trabajo definidas
- Acceso
- API y SDK de modelos fundacionales; endpoint de Gateway
- Disponibilidad actual
- Gateway en fase beta; posentrenamiento empresarial y optimización del entorno de ejecución según acuerdo
- Modelo de acceso
- API de modelos con precios según el uso; Gateway beta independiente y trabajo personalizado
Análisis de tráfico de AI21
Los datos de tráfico son solo como referencia.
- Visitas mensuales
- 134,3 mil
- Clasificación global
- #324.591
- Tasa de rebote
- 39.8%
- Duración media de la visita
- 00:27
- Páginas por visita
- 1.91
- Valoración del dominio
- 75
Tendencias de tráfico
| may | 170162 |
|---|---|
| jun | 146693 |
| jul | 134331 |
Fuentes de tráfico
Las analíticas de tráfico aún no están disponibles.
Principales regiones
- Desconocido: 14.8%
- Desconocido: 7.45%
- Desconocido: 5.33%
- Desconocido: 4.13%
- Desconocido: 3.19%
- Desconocido: 65.1%
Alternativas a AI21
Experiential Labs
www.experientiallabs.ai
Experiential Labs es una pasarela de IA de código abierto que ofrece a los equipos un único endpoint y una clave API para modelos alojados, claves propias de clientes y modelos locales o personalizados. También añade enrutamiento, presupuestos, control de acceso, atribución y funciones de inteligencia opcionales para el tráfico de agentes.
AlphaProxy
alphaproxy.ai
AlphaProxy es una pasarela compatible con OpenAI que enruta solicitudes entre más de 450 modelos y 100 proveedores, con un entorno de agentes para tareas de varios pasos y flujos de trabajo programados.
Lunary
lunary.ai
Plataforma de observabilidad y gestión de prompts para aplicaciones basadas en modelos de lenguaje (LLM). Ayuda a los equipos a supervisar, mejorar y proteger chatbots, agentes y otros flujos de trabajo con LLM.
oMLX
omlx.ai
oMLX es un servidor de inferencia LLM nativo de macOS, basado en MLX, para ejecutar localmente en Apple Silicon modelos compatibles de lenguaje, visión-lenguaje, embeddings y reranking. Diseñado para flujos de trabajo con agentes de programación, funciona con Claude Code, OpenClaw, Cursor y clientes compatibles con OpenAI.
Prompt Genie
prompt-genie.com
Gestiona y optimiza prompts para flujos de trabajo de IA, compara resultados entre modelos y reutiliza el contexto de sesión en Claude Code para evitar lecturas repetidas.
Promptmetheus
promptmetheus.com
IDE web de ingeniería de prompts para crear, probar y optimizar prompts para aplicaciones, agentes y flujos de trabajo basados en modelos de lenguaje.