Coordinación del entrenamiento distribuido
Coordina el entrenamiento de modelos de lenguaje grandes en hardware distribuido e infrautilizado, en lugar de requerir un único clúster centralizado.
Empresa de investigación en IA centrada en modelos de lenguaje de código abierto e infraestructura de entrenamiento descentralizado y distribuido.
NOUS RESEARCH es una empresa de investigación en IA centrada en modelos de lenguaje de código abierto y en la infraestructura necesaria para entrenarlos. La página de inicio indica que la empresa entrena modelos de código abierto de primer nivel y desarrolla sistemas para un entrenamiento coordinado, distribuido y sin sesgos.
El proyecto Psyche, documentado detalladamente en el sitio, es una capa de infraestructura abierta para el desarrollo descentralizado de IA. Está diseñado para distribuir el entrenamiento entre hardware infrautilizado, reducir los costes de transferencia de datos mediante métodos centrados en la compresión, como DeMo y DisTrO, y coordinar la red a través de la blockchain Solana.
En la práctica, esto hace que NOUS RESEARCH sea relevante para equipos y colaboradores interesados en el entrenamiento de modelos abiertos, la participación en computación distribuida y la investigación de sistemas eficientes de entrenamiento a gran escala. El sitio público también señala trabajos relacionados, incluidos los modelos Hermes, Atropos y lanzamientos de modelos, artículos y simuladores.
Coordina el entrenamiento de modelos de lenguaje grandes en hardware distribuido e infrautilizado, en lugar de requerir un único clúster centralizado.
Utiliza ideas de Decoupled Momentum Optimization y DisTrO para reducir la cantidad de datos enviados entre nodos durante el entrenamiento.
Se basa en la blockchain Solana para la coordinación; la fuente describe este diseño como tolerante a fallos y resistente a la censura.
Proporciona ejecuciones de entrenamiento en directo y estadísticas en tiempo real para que los colaboradores puedan consultar el progreso del entrenamiento y los modelos activos.
Admite una hoja de ruta gradual que comienza con una testnet con permisos y avanza hacia una descentralización más amplia.
Prepara la red para capacidades de aprendizaje por refuerzo y modelos de razonamiento en fases posteriores.
Los investigadores que quieran estudiar o desarrollar soluciones basadas en el entrenamiento descentralizado pueden usar Psyche como referencia para comprender cómo se integran el hardware infrautilizado, la comunicación centrada en la compresión y la coordinación de la red.
Las organizaciones con aceleradores inactivos o distribuidos geográficamente pueden aportar capacidad de cómputo a una red de entrenamiento compartida, en lugar de operar únicamente infraestructura centralizada.
Los desarrolladores de modelos interesados en modelos de lenguaje de código abierto pueden seguir los lanzamientos de NOUS RESEARCH para conocer el trabajo de entrenamiento, los nuevos modelos, los artículos y los cambios en la infraestructura.
Los equipos que exploran capacidades de fases posteriores, como el aprendizaje por refuerzo o los modelos de razonamiento, pueden usar la hoja de ruta publicada para comprender hacia dónde se dirige la red.
NOUS RESEARCH describe Psyche como una infraestructura abierta para el desarrollo descentralizado de IA. La página indica que coordina el entrenamiento en hardware distribuido y heterogéneo, y que busca hacer más accesible la participación en el entrenamiento de modelos de lenguaje grandes.
La página indica que Psyche comenzó con una testnet con permisos y avanza hacia un entorno totalmente descentralizado. También menciona una hoja de ruta que incluye inferencia accesible y capacidades avanzadas, como el aprendizaje por refuerzo y los modelos de razonamiento.
La fuente no incluye un modelo de precios para un servicio alojado ni niveles de uso. La página de precios en `/pricing` devuelve un 404, por lo que no se puede confirmar ninguna información de precios a partir del contenido disponible del sitio.
La página invita a los usuarios a consultar ejecuciones de entrenamiento en directo y aportar capacidad de cómputo a Psyche Network, lo que indica un flujo de trabajo centrado en compartir hardware para el entrenamiento distribuido.
Los datos de tráfico son solo como referencia.
mercor.com
Plataforma de IA para investigación de frontera, datos de entrenamiento con participación humana, agentes empresariales y evaluación basada en benchmarks.
trainloop.ai
Laboratorio de investigación y desarrollo de productos de postentrenamiento que crea modelos especializados para tareas empresariales, con énfasis en flujos de trabajo de larga duración y su implementación en producción.
deepmind.google
Plataforma de investigación y modelos de IA para agentes, creación multimodal, generación de medios, modelos abiertos y ciencia
tropir.com
Infraestructura para crear entornos de entrenamiento de uso prolongado de herramientas, con flujos empresariales simulados y evaluación del razonamiento fundamentado en múltiples pasos.
qdrant.tech
Motor de búsqueda vectorial de código abierto, escrito en Rust, para recuperación de IA, búsqueda semántica y coincidencia por similitud, con filtrado de cargas JSON y opciones de implementación flexibles.
laion.ai
Organización sin ánimo de lucro que publica conjuntos de datos, modelos y herramientas de aprendizaje automático abiertos para la investigación pública.