Modelo multimodal de pesos abiertos de Thinking Machines Lab para texto, imágenes y audio, con ajuste fino en Tinker.
Inkling es el modelo multimodal de pesos abiertos de Thinking Machines Lab. Se presenta como un modelo fundacional de propósito general que acepta entradas de texto, imágenes y audio, y genera salidas de texto, con compatibilidad con inglés, otros idiomas y varios lenguajes de programación.
La ficha del modelo describe Inkling como un transformador de solo decodificador de 66 capas, con enrutamiento disperso de Mezcla de Expertos, 975B de parámetros totales, 41B activos y una ventana de contexto de hasta 1M de tokens. Thinking Machines lo posiciona como un modelo base personalizable para desarrolladores que crean sistemas conversacionales, flujos de trabajo agénticos, herramientas de programación y aplicaciones con generación aumentada por recuperación.
Inkling se distribuye con pesos abiertos bajo Apache 2.0, está disponible a través de Hugging Face y puede ajustarse mediante fine-tuning en Tinker. Los materiales de lanzamiento también señalan Inkling-Small como una vista previa más ligera de la misma familia, pero la página de origen destaca Inkling como el lanzamiento principal.
Inkling es un transformador autorregresivo multimodal que acepta texto, imágenes y audio, y produce salidas de texto. La ficha del modelo indica que está destinado al inglés y otros idiomas, así como a varios lenguajes de programación.
El modelo utiliza una arquitectura de Mezcla de Expertos dispersa con 975B de parámetros totales y 41B de parámetros activos. Según la ficha del modelo, cada token se dirige a 6 de 256 expertos, además de 2 expertos compartidos.
Inkling admite una ventana de contexto de hasta 1M de tokens, lo que lo hace adecuado para flujos de trabajo con documentos extensos y conversaciones largas.
La publicación de lanzamiento indica que Inkling equilibra el coste y el rendimiento mediante un esfuerzo de razonamiento controlable. Esto permite utilizarlo como modelo base con distintos niveles de esfuerzo de razonamiento según la tarea.
Inkling está disponible para ajuste fino en Tinker, y la página del producto Tinker describe el entrenamiento mediante cuatro funciones: forward_backward, optim_step, sample y save_state.
La ficha del modelo indica que los pesos están disponibles a través de Hugging Face, y que el modelo también es accesible mediante Tinker y proveedores de inferencia externos.
Los desarrolladores pueden crear chatbots o productos de tipo asistente que necesiten responder a indicaciones de texto e interpretar también imágenes o audio en la misma sesión.
Los equipos que trabajan en copilotos de programación, agentes que utilizan herramientas o sistemas con generación aumentada por recuperación pueden usar Inkling como modelo base de propósito general para el ajuste y la integración posteriores.
Los investigadores y equipos de producto pueden ajustar los pesos abiertos mediante fine-tuning en Tinker para adaptar el modelo a un comportamiento o flujo de trabajo específicos, como un estilo de respuesta personalizado o una tarea de un dominio concreto.
Las aplicaciones que deben procesar documentos extensos, conversaciones largas o contexto prolongado en varios turnos pueden aprovechar la ventana de contexto de 1M de tokens del modelo.
Las organizaciones que evalúan opciones de despliegue con pesos abiertos pueden utilizar las indicaciones de la ficha del modelo sobre puntos de control y hardware para planificar la inferencia en sus propios sistemas o mediante proveedores compatibles.
Inkling está disponible como modelo de pesos abiertos; sus pesos se ofrecen a través de Hugging Face y el modelo también es accesible mediante Tinker y proveedores de inferencia externos. El anuncio y la ficha del modelo indican que está destinado a desarrolladores de aplicaciones posteriores, no a una aplicación de chat para consumidores.
La ficha del modelo indica que Inkling acepta entradas de texto, imágenes y audio, y genera salidas de texto. Está diseñado para uso conversacional de propósito general, seguimiento de instrucciones, programación, flujos de trabajo agénticos y sistemas de generación aumentada por recuperación.
Tinker es la API de entrenamiento utilizada para ajustar Inkling. La ficha del modelo indica que Inkling está disponible para ajuste fino en Tinker, y la publicación de lanzamiento describe el uso de Tinker para escribir, ejecutar y evaluar un trabajo de autoajuste antes de actualizar los pesos activos.
La ficha del modelo describe Inkling como un transformador de solo decodificador de 66 capas, con enrutamiento disperso de Mezcla de Expertos. Tiene 975B de parámetros totales, 41B activos y admite una ventana de contexto de hasta 1M de tokens.
Los materiales de origen no proporcionan información sobre precios. La URL de precios actualmente devuelve una página 404 de contenido no encontrado.
Los datos de tráfico son solo como referencia.
ludwig.ai
Ludwig es un framework declarativo de aprendizaje profundo y código abierto para entrenar, ajustar y desplegar modelos desde una única configuración YAML. Admite flujos tabulares, de texto, imágenes, audio, series temporales y LLM, incluido el entrenamiento distribuido y el servicio de modelos.
unsloth.ai
Interfaz web local y framework de código abierto para entrenar, ejecutar y exportar modelos abiertos en tu propio equipo, con preparación de datos y ajuste fino.
nyckel.com
Plataforma de IA para crear predicciones fiables a partir de ejemplos, con funciones de API estables para clasificar imágenes, texto y datos estructurados mediante planes basados en el uso.
www.arkor.ai
Plataforma basada en TypeScript para crear, entrenar y ofrecer modelos personalizados de pesos abiertos con un agente de programación.
research.meta.ai
Muse Spark 1.3 es un modelo de razonamiento multimodal de Meta Superintelligence Labs para tareas con agentes, programación y flujos de trabajo de largo plazo. Está disponible con razonamiento máximo en Muse Code y Meta Model API.
venice.ai
Plataforma privada de IA para chat, imágenes, vídeo, audio, código, búsqueda y flujos de trabajo con agentes, con plan gratuito, opciones de pago y API compatible con OpenAI.
