# Twigg API con estado para crear aplicaciones con LLM, con almacenamiento de conversaciones, ensamblado y compactación de contexto, y enrutamiento entre modelos y proveedores. - Findings24: - Sitio web: - Precios: Freemium - Categorías: Herramientas IA Dev ## ¿Qué es Twigg? Twigg es un almacén de contexto alojado, un ensamblador y un enrutador de modelos para aplicaciones que interactúan con modelos de lenguaje de gran tamaño. Una aplicación crea un chat, conserva su ID de chat y envía nuevos eventos al mismo chat; Twigg almacena la conversación, ensambla el contexto de la solicitud, llama al modelo indicado y devuelve la respuesta y la información de uso. La conversación permanece fuera de los proveedores de LLM, lo que permite usar un mismo chat con modelos de distintos proveedores. La API puede conservar artefactos nativos del proveedor, como razonamientos y llamadas a herramientas, traducir el registro acumulado al formato de mensajes de cada proveedor y compactar el contexto antiguo cuando sea necesario. ## ¿Qué puede hacer Twigg? ### API de chat con estado Crea un chat una sola vez y publica los eventos posteriores en \`/api/v1/chats/\{chat\_id\}/responses\`, en lugar de reconstruir la transcripción completa en cada solicitud. ### Gestión alojada del contexto Twigg almacena y recupera el historial de la conversación, de modo que la aplicación solo necesita conservar el ID de chat, no la transcripción completa. ### Cambio de modelo y proveedor Cada ejecución indica el modelo que se utilizará, lo que permite mover una conversación entre los modelos y proveedores disponibles sin migrar el chat a un nuevo hilo de un proveedor. ### Ensamblado y compactación del contexto Twigg ensambla el historial para cada solicitud y compacta el contenido antiguo cuando es necesario para mantener la solicitud dentro del presupuesto de contexto configurado. ### Controles de retención Los espacios de nombres pueden definir presupuestos de ventana de contexto y reglas para conservar, truncar o descartar distintos tipos de contenido. Los argumentos y resultados de las herramientas pueden tener reglas independientes de tamaño y antigüedad. ### Transmisión e informes de uso Las respuestas pueden transmitirse a través de la API, y las ejecuciones completadas incluyen información sobre el modelo, el uso de tokens, el motivo de detención y el coste cuando el servicio la devuelve. ## Casos de uso ### Aplicaciones de chat multiusuario Mantén los chats de cada usuario en un espacio de nombres independiente mientras la aplicación solo almacena el ID del chat abierto. La CLI de ejemplo de Twigg permite crear, enumerar, volver a abrir y cambiar entre conversaciones de usuarios. ### Asistentes de larga duración Permite que un proceso se reinicie o se traslade entre máquinas sin perder la conversación, porque la transcripción se recupera mediante el ID de chat en lugar de mantenerse en la memoria de la aplicación. ### Evaluación y enrutamiento de proveedores Envía distintos turnos de una conversación a diferentes modelos o proveedores indicados para comparar su comportamiento o adaptar las tareas a las capacidades de los modelos disponibles. ### Agentes que utilizan herramientas Conserva llamadas a herramientas, resultados de herramientas, artefactos de razonamiento y mensajes ordinarios en el registro de contexto, aplicando reglas de retención independientes a las cargas grandes de las herramientas. ### Prototipos ligeros y clientes de línea de comandos Usa los ejemplos documentados de JavaScript o Python para crear un chatbot con transmisión, sin un SDK ni dependencias de paquetes externos en los ejemplos. ## Preguntas frecuentes ### ¿Qué debe conservar localmente una aplicación? Para el flujo de chat documentado, la aplicación puede conservar el ID de chat y el estado de su propio bucle del agente. La CLI de ejemplo indica que no almacena nada aparte del ID del chat abierto, mientras Twigg conserva el chat y los mensajes. ### ¿Se puede cambiar de modelo durante una conversación? Sí. La solicitud de respuesta incluye un nombre de modelo, y los ejemplos enumeran los modelos mediante \`GET /api/v1/models\` y seleccionan un modelo diferente para turnos posteriores del mismo chat. ### ¿Twigg transmite las respuestas? Sí. Los ejemplos consumen una respuesta transmitida e imprimen los eventos de diferencia de texto a medida que llegan. El ejemplo de la API también muestra un marco de ejecución y un evento final \`done\`. ### ¿Cómo gestiona Twigg las conversaciones que crecen demasiado? Twigg ensambla la conversación dentro de un presupuesto de contexto y puede compactar el contenido antiguo. El sitio también describe controles a nivel de espacio de nombres y modelo para presupuestos, límites de retención y reglas de truncamiento. ### ¿Twigg ejecuta las herramientas o el bucle del agente de una aplicación? No se documenta un entorno de ejecución completo de ese tipo. La descripción del producto asigna a la aplicación la responsabilidad del bucle del agente y de las herramientas, mientras Twigg gestiona el registro de contexto, el ensamblado de solicitudes, la llamada al modelo y los datos de respuesta relacionados. ## Datos rápidos - **Categoría**: Herramienta para desarrolladores - **Tipo de producto**: API de LLM con estado - **Flujo de trabajo principal**: Crear un chat, enviar el siguiente evento y recibir una respuesta - **Modo de respuesta**: Transmisión compatible en los ejemplos documentados - **Lenguajes de ejemplo**: JavaScript y Python - **Base de la API mostrada en los ejemplos**: https://api.twigg.ai/api/v1