# AI21 AI21 ofrece API de modelos fundacionales y una pasarela beta para enrutar, almacenar en caché y compactar el contexto del tráfico de agentes. También trabaja con empresas en modelos dedicados para cargas de trabajo específicas. - Findings24: - Sitio web: - Precios: Paid - Categorías: Herramientas IA Dev, API de LLM ## ¿Qué es AI21? AI21 ofrece una pila modular de IA empresarial que abarca API de modelos fundacionales y herramientas para optimizar los flujos de trabajo de agentes existentes. Los equipos pueden usar los modelos Jamba mediante API o conectar la URL base de API de un agente a AI21 Gateway para enrutar solicitudes, almacenarlas en caché y compactar el contexto. Gateway está actualmente en fase beta y es gratuito durante la vista previa. AI21 ofrece optimización conjunta del modelo y su entorno de ejecución en sus servicios empresariales de posentrenamiento; confirme el alcance y la entrega con el equipo. El ajuste de modelos dedicados se acuerda con AI21 para cargas de trabajo empresariales definidas; el uso de las API de modelos fundacionales tiene precios independientes y opciones de planes personalizados. ## ¿Qué puede hacer AI21? ### Enrutar solicitudes de agentes Gateway, en fase beta, selecciona modelos en cada turno usando factores como la dificultad de la tarea, la longitud del contexto y el tamaño de la caché. Crea un perfil de costos a partir del tráfico de cada agente. ### Compactar y almacenar en caché el contexto Reduce el contexto redundante en las indicaciones, los esquemas de herramientas y las salidas, y ajusta el contexto para el almacenamiento en caché. Gateway tiene en cuenta la ejecución completa del agente al hacer recomendaciones. ### Revisar recomendaciones de optimización Examina los cambios recomendados y los ahorros previstos; después, aprueba los cambios antes de que lleguen a producción. ### Acceder a modelos fundacionales mediante API Usa Jamba Mini o Jamba Large mediante API y SDK de modelos fundacionales, con cargos por tokens de entrada y salida según el uso. ### Acordar el ajuste de modelos dedicados Trabaja con AI21 para ajustar un modelo abierto pequeño dedicado a cargas de trabajo empresariales definidas. ## Casos de uso ### Optimizar una pila de agentes existente Conecta el tráfico de los agentes a Gateway para revisar oportunidades de enrutamiento, contexto y almacenamiento en caché sin reemplazar el arnés del agente. ### Crear aplicaciones lingüísticas Usa API de modelos fundacionales para tareas de instrucciones o chat, con facturación basada en los tokens de entrada y salida del modelo. ### Desarrollar un modelo específico para una carga de trabajo Usa el ajuste de modelos dedicados para una carga de trabajo empresarial definida y consulta con AI21 los requisitos de entrega. ## Preguntas frecuentes ### ¿Qué partes puedo probar sin pagar? AI21 Gateway es gratuito durante su vista previa beta. La página oficial de precios anuncia una prueba independiente de las API de modelos fundacionales con 10 $ en créditos y sin tarjeta de crédito; confirme la duración y los requisitos aplicables al registrarse. El acceso de pago a las API se factura según el uso. ### ¿Cómo se cobran las solicitudes a la API de Jamba? Jamba Mini cuesta 0,20 $ por cada millón de tokens de entrada y 0,40 $ por cada millón de tokens de salida. Jamba Large cuesta 2 $ por cada millón de tokens de entrada y 8 $ por cada millón de tokens de salida. Estas son tarifas de API de modelos fundacionales, independientes del trabajo con modelos dedicados. ### ¿Cómo se conecta un agente existente a Gateway? Configura la URL base de API del agente para que apunte a AI21 Gateway. Gateway se sitúa entre el arnés y los modelos, crea un perfil de costos a partir del tráfico y presenta recomendaciones para que las revises antes de aplicar cambios en producción. ### ¿Están disponibles todas las partes de la pila de la misma manera? No. Gateway está en fase beta. El entrenamiento de modelos dedicados y la optimización del modelo y su entorno de ejecución se acuerdan con AI21 para cargas empresariales. Las API de modelos fundacionales ofrecen acceso según el uso y planes personalizados. ## Datos rápidos - **Público principal**: Equipos de IA empresariales y desarrolladores - **Entradas principales**: Solicitudes a modelos, tráfico de agentes y cargas de trabajo definidas - **Acceso**: API y SDK de modelos fundacionales; endpoint de Gateway - **Disponibilidad actual**: Gateway en fase beta; posentrenamiento empresarial y optimización del entorno de ejecución según acuerdo - **Modelo de acceso**: API de modelos con precios según el uso; Gateway beta independiente y trabajo personalizado