eu/jev es una API de inferencia alojada en la UE que convierte contexto y preguntas con nombre en elecciones, probabilidades y puntuaciones estructuradas para aplicaciones.
eu/jev es una API de inferencia de Bevel que convierte contexto en elecciones, probabilidades y puntuaciones estructuradas. Las aplicaciones envían un estado compartido y una o más preguntas con nombre a POST /v1/systemone, y reciben respuestas diseñadas para su uso directo en software. Los tipos de pregunta compatibles son choice, noul y score. El servicio ejecuta la inferencia en un servidor de Hetzner en Alemania y ofrece un entorno de pruebas para probar flujos de trabajo como el enrutamiento de soporte, el análisis de sentimiento y la moderación de contenido.
Crea preguntas de elección con entre dos y diez opciones, preguntas noul de verdadero/falso o preguntas de puntuación ordenada. Las respuestas incluyen los campos de respuesta correspondientes y, cuando procede, probabilidades y confianza.
Envía solicitudes JSON autenticadas con Bearer a `POST /v1/systemone` mediante un valor de estado compartido y preguntas con nombre. La estructura de carga útil documentada es compatible con los patrones de solicitud al estilo de Jev, mientras que eu/jev utiliza sus propios ID de modelo compatibles y reglas de validación.
Una solicitud puede incluir hasta ocho preguntas sobre el mismo contexto. El estado puede proporcionarse como cadena, objeto JSON o matriz, lo que permite a las aplicaciones enviar distintas formas de entrada estructurada.
La API devuelve respuestas asociadas a los nombres de las preguntas enviadas, junto con información del modelo, uso de tokens de entrada, ID de solicitud y metadatos de latencia del servidor.
La inferencia se ejecuta en infraestructura de Hetzner en Alemania. El sitio indica que las instrucciones y respuestas no se almacenan en la base de datos de uso ni en los registros, y proporciona documentos sobre privacidad, DPA, términos y subencargados.
Clasifica un problema de cliente entrante según equipos operativos como facturación o soporte técnico y utiliza la elección devuelta para dirigir el ticket a la cola adecuada.
Evalúa texto según categorías como resultados de moderación o etiquetas relacionadas con el sentimiento. El entorno de pruebas permite probar una pregunta y sus criterios antes de integrarla con la API.
Utiliza preguntas de tipo choice o noul para evaluar alternativas según descripciones escritas en lenguaje natural y producir una opción seleccionada o un resultado de verdadero/falso para la lógica posterior.
Utiliza preguntas de tipo score con descripciones ordenadas de menor a mayor cuando una aplicación necesita una posición esperada en una escala definida en lugar de una etiqueta categórica.
Crea una cuenta para obtener una clave de API y, después, envía una solicitud POST autenticada con Bearer a `/v1/systemone` con un JSON que contenga `state`, `questions` y, opcionalmente, `model`. El modelo actual documentado es `jeff-latest`; la clave predeterminada se muestra una sola vez al registrarte.
Las respuestas se asocian a los nombres de las preguntas enviadas. Las respuestas de tipo choice incluyen la opción seleccionada, probabilidades y confianza; noul devuelve una probabilidad; y score devuelve una posición esperada con probabilidades, confianza y una leyenda. Las respuestas también incluyen metadatos del servicio.
La tarifa publicada es de 37 € por cada mil millones de tokens de entrada, y los tokens de salida son gratuitos. Las cuentas nuevas reciben 5 € de crédito inicial. No se realiza ningún cobro automático cuando se agotan los créditos, y se puede solicitar uso adicional mediante el formulario de solicitud del servicio.
La inferencia se ejecuta en un servidor de Hetzner en Alemania. El sitio indica que las instrucciones y respuestas no se almacenan en su base de datos de uso ni en los registros; su política de privacidad, DPA y lista de subencargados ofrecen detalles adicionales sobre el procesamiento y los proveedores de servicios.
Los límites documentados incluyen ocho preguntas por solicitud, diez opciones por pregunta, un cuerpo JSON de 256 KiB, 1.000 caracteres por instrucción y 500 caracteres por criterio después de la serialización. El servicio también documenta un límite de 60 solicitudes por minuto entre las claves de la cuenta y la actividad del entorno de pruebas con sesión iniciada.
Los datos de tráfico son solo como referencia.
parasail.io
Parasail es una nube de inferencia para startups de IA nativa que ofrece acceso a modelos abiertos y de frontera mediante una API compatible con OpenAI, con opciones de implementación sin servidor, elástica, dedicada y por lotes.
www.byteplus.com
ModelArk es la plataforma integral de BytePlus para servicios de modelos de lenguaje de gran escala, destinada a organizaciones que crean, implementan y escalan aplicaciones de IA.
build.nvidia.com
NVIDIA NIM APIs es una plataforma para explorar y usar endpoints de modelos y crear aplicaciones empresariales de IA generativa. También ofrece blueprints y guías específicas para cada dispositivo, desde la selección del modelo hasta los flujos de trabajo de las aplicaciones.
baseten.co
Plataforma de inferencia para desplegar, servir y escalar modelos de IA de código abierto, personalizados y ajustados para producción.
sambanova.ai
Plataforma de inferencia de IA para ejecutar modelos abiertos de gran tamaño y cargas de trabajo con agentes, en la nube o en infraestructura propia.
prodia.com
Plataforma de inferencia multisilicio para generación de vídeo, con implementaciones de modelos de IA en distintos entornos de hardware para equilibrar coste, calidad y rendimiento.
