# SambaNova Plataforma de inferencia de IA para ejecutar modelos abiertos de gran tamaño y cargas de trabajo con agentes, en la nube o en infraestructura propia. - Findings24: - Sitio web: - Precios: Freemium - Categorías: Plataformas de inferencia de IA, Despliegue de modelos de IA ## ¿Qué es SambaNova? SambaNova es una plataforma de inferencia de IA para servir modelos abiertos de gran tamaño y coordinar varios modelos en aplicaciones generativas y con agentes. Combina hardware basado en RDU, procesamiento de flujo de datos, memoria de varios niveles, software de gestión de modelos y API en una pila que puede utilizarse a través de SambaCloud o desplegarse en la infraestructura propia de una organización. SambaCloud ofrece inferencia gestionada para modelos como DeepSeek, Llama, Qwen, MiniMax M2.7, Gemma 4 31B y gpt-oss-120b. SambaNova también ofrece sistemas SambaRack y SambaOrchestrator para organizaciones que necesitan opciones de despliegue en la nube, en las instalaciones, híbridas o aisladas de la red. La plataforma está dirigida a desarrolladores que crean aplicaciones de IA y a empresas que necesitan controlar sus modelos, datos y entorno de despliegue. ## ¿Qué puede hacer SambaNova? ### Inferencia gestionada a través de SambaCloud SambaCloud ofrece inferencia alojada para una variedad de modelos abiertos de gran tamaño, incluidos DeepSeek, Llama, Qwen, MiniMax M2.7, Gemma 4 31B y gpt-oss-120b. Los modelos compatibles pueden cubrir cargas de trabajo de texto, imagen o audio. ### Acceso a aplicaciones compatible con OpenAI Los desarrolladores pueden migrar una aplicación desde otro proveedor mediante los puntos de conexión compatibles con OpenAI de SambaNova, configurando la clave de API y la URL base de SambaNova y seleccionando un modelo compatible. ### Arquitectura de flujo de datos RDU La unidad de flujo de datos reconfigurable (RDU) de SambaNova utiliza procesamiento de flujo de datos y una arquitectura de memoria de tres niveles para admitir la inferencia de modelos de gran tamaño, incluidas cargas de trabajo que mantienen varios modelos disponibles. ### Gestión de modelos e infraestructura SambaOrchestrator proporciona herramientas para el despliegue de modelos, la supervisión, el escalado automático, el balanceo de carga, la gestión de servidores y la creación de nubes en entornos de centros de datos. ### Despliegue flexible y control de datos La plataforma puede desplegarse en entornos de nube, en las instalaciones, híbridos y aislados de la red. SambaNova afirma que los clientes son propietarios de sus modelos y controlan sus datos; SambaCloud indica que no ve ni recopila datos de usuario ni prompts. ### Compatibilidad con el ecosistema de desarrolladores SambaCloud enumera integraciones con CrewAI, Hugging Face, Cline y AWS, que ofrecen a los desarrolladores formas de conectar la inferencia con marcos de IA y herramientas de desarrollo existentes. ## Casos de uso ### Sistemas de agentes con varios modelos Los equipos pueden combinar varios modelos en un flujo de trabajo con agentes, por ejemplo, derivando solicitudes entre agentes de asistencia general, investigación, ventas y finanzas, o encadenando modelos para obtener resultados más completos. ### Investigación empresarial privada Las organizaciones pueden realizar investigaciones e informes basados en IA sobre datos empresariales y elegir despliegues en la nube, en las instalaciones, híbridos o aislados de la red según sus requisitos de seguridad y control de datos. ### Agentes de programación y para desarrolladores Los desarrolladores pueden crear agentes de programación y otras herramientas de software mediante inferencia rápida, puntos de conexión compatibles con OpenAI e integraciones como Cline, Hugging Face y CrewAI. ### Análisis de contenido y medios Las aplicaciones pueden utilizar modelos compatibles con texto, imagen o audio para tareas como transcribir vídeos, analizar contenido y generar información a partir de medios. ### Servicios de inferencia a escala de infraestructura Los proveedores de neocloud, los proveedores de servicios y los equipos de infraestructura empresarial pueden desplegar sistemas SambaRack con SambaOrchestrator para ejecutar modelos, supervisar cargas de trabajo y ampliar la capacidad en centros de datos. ## Preguntas frecuentes ### ¿Cuál es la diferencia entre SambaCloud y SambaRack? SambaCloud es el servicio gestionado de inferencia de IA de SambaNova para desarrolladores. SambaRack es una plataforma de hardware que combina hardware, sistema operativo y redes para ejecutar cargas de trabajo de inferencia en un centro de datos; SambaOrchestrator proporciona funciones de gestión. ### ¿Qué modelos se pueden utilizar con SambaNova? El sitio indica compatibilidad con modelos abiertos como DeepSeek, Llama, Qwen, MiniMax M2.7, Gemma 4 31B y gpt-oss-120b. Las modalidades disponibles dependen del modelo y pueden incluir procesamiento de texto, imagen y audio. ### ¿Se puede migrar a SambaNova una aplicación existente basada en OpenAI? SambaCloud ofrece puntos de conexión compatibles con OpenAI. El proceso de migración documentado consiste en establecer la variable de clave de OpenAI API con una clave de API de SambaNova, configurar la URL base, elegir un modelo y ejecutar la aplicación. ### ¿Dónde se puede desplegar SambaNova? SambaNova describe despliegues en la nube, en las instalaciones e híbridos, incluida la opción de empezar en la nube y ampliar más adelante a infraestructura propia. También admite entornos aislados de la red para despliegues que requieren aislamiento de red. ### ¿SambaNova utiliza los prompts o datos de los clientes para entrenar sus sistemas? La página de SambaCloud indica que SambaCloud no ve ni recopila datos de usuario ni prompts. La página empresarial afirma que los clientes son propietarios de sus modelos y controlan sus datos, y que estos no se comparten con SambaNova ni con terceros. ## Datos rápidos - **Categoría del producto**: Plataforma de inferencia de IA - **Usuarios principales**: Desarrolladores, empresas y operadores de infraestructura de IA - **Producto gestionado**: SambaCloud - **Productos de infraestructura**: SambaRack y SambaOrchestrator - **Opciones de despliegue**: Entornos en la nube, en las instalaciones, híbridos y aislados de la red - **Flujo de trabajo de API**: Puntos de conexión compatibles con OpenAI