SambaNova logo

SambaNova

Freemium
Visitar

Plataforma de inferencia de IA para ejecutar modelos abiertos de gran tamaño y cargas de trabajo con agentes, en la nube o en infraestructura propia.

¿Qué es SambaNova?

SambaNova es una plataforma de inferencia de IA para servir modelos abiertos de gran tamaño y coordinar varios modelos en aplicaciones generativas y con agentes. Combina hardware basado en RDU, procesamiento de flujo de datos, memoria de varios niveles, software de gestión de modelos y API en una pila que puede utilizarse a través de SambaCloud o desplegarse en la infraestructura propia de una organización.

SambaCloud ofrece inferencia gestionada para modelos como DeepSeek, Llama, Qwen, MiniMax M2.7, Gemma 4 31B y gpt-oss-120b. SambaNova también ofrece sistemas SambaRack y SambaOrchestrator para organizaciones que necesitan opciones de despliegue en la nube, en las instalaciones, híbridas o aisladas de la red. La plataforma está dirigida a desarrolladores que crean aplicaciones de IA y a empresas que necesitan controlar sus modelos, datos y entorno de despliegue.

¿Qué puede hacer SambaNova?

Inferencia gestionada a través de SambaCloud

SambaCloud ofrece inferencia alojada para una variedad de modelos abiertos de gran tamaño, incluidos DeepSeek, Llama, Qwen, MiniMax M2.7, Gemma 4 31B y gpt-oss-120b. Los modelos compatibles pueden cubrir cargas de trabajo de texto, imagen o audio.

Acceso a aplicaciones compatible con OpenAI

Los desarrolladores pueden migrar una aplicación desde otro proveedor mediante los puntos de conexión compatibles con OpenAI de SambaNova, configurando la clave de API y la URL base de SambaNova y seleccionando un modelo compatible.

Arquitectura de flujo de datos RDU

La unidad de flujo de datos reconfigurable (RDU) de SambaNova utiliza procesamiento de flujo de datos y una arquitectura de memoria de tres niveles para admitir la inferencia de modelos de gran tamaño, incluidas cargas de trabajo que mantienen varios modelos disponibles.

Gestión de modelos e infraestructura

SambaOrchestrator proporciona herramientas para el despliegue de modelos, la supervisión, el escalado automático, el balanceo de carga, la gestión de servidores y la creación de nubes en entornos de centros de datos.

Despliegue flexible y control de datos

La plataforma puede desplegarse en entornos de nube, en las instalaciones, híbridos y aislados de la red. SambaNova afirma que los clientes son propietarios de sus modelos y controlan sus datos; SambaCloud indica que no ve ni recopila datos de usuario ni prompts.

Compatibilidad con el ecosistema de desarrolladores

SambaCloud enumera integraciones con CrewAI, Hugging Face, Cline y AWS, que ofrecen a los desarrolladores formas de conectar la inferencia con marcos de IA y herramientas de desarrollo existentes.

Casos de uso

“Sistemas de agentes con varios modelos”

Los equipos pueden combinar varios modelos en un flujo de trabajo con agentes, por ejemplo, derivando solicitudes entre agentes de asistencia general, investigación, ventas y finanzas, o encadenando modelos para obtener resultados más completos.

“Investigación empresarial privada”

Las organizaciones pueden realizar investigaciones e informes basados en IA sobre datos empresariales y elegir despliegues en la nube, en las instalaciones, híbridos o aislados de la red según sus requisitos de seguridad y control de datos.

“Agentes de programación y para desarrolladores”

Los desarrolladores pueden crear agentes de programación y otras herramientas de software mediante inferencia rápida, puntos de conexión compatibles con OpenAI e integraciones como Cline, Hugging Face y CrewAI.

“Análisis de contenido y medios”

Las aplicaciones pueden utilizar modelos compatibles con texto, imagen o audio para tareas como transcribir vídeos, analizar contenido y generar información a partir de medios.

“Servicios de inferencia a escala de infraestructura”

Los proveedores de neocloud, los proveedores de servicios y los equipos de infraestructura empresarial pueden desplegar sistemas SambaRack con SambaOrchestrator para ejecutar modelos, supervisar cargas de trabajo y ampliar la capacidad en centros de datos.

Preguntas frecuentes

¿Cuál es la diferencia entre SambaCloud y SambaRack?

SambaCloud es el servicio gestionado de inferencia de IA de SambaNova para desarrolladores. SambaRack es una plataforma de hardware que combina hardware, sistema operativo y redes para ejecutar cargas de trabajo de inferencia en un centro de datos; SambaOrchestrator proporciona funciones de gestión.

¿Qué modelos se pueden utilizar con SambaNova?

El sitio indica compatibilidad con modelos abiertos como DeepSeek, Llama, Qwen, MiniMax M2.7, Gemma 4 31B y gpt-oss-120b. Las modalidades disponibles dependen del modelo y pueden incluir procesamiento de texto, imagen y audio.

¿Se puede migrar a SambaNova una aplicación existente basada en OpenAI?

SambaCloud ofrece puntos de conexión compatibles con OpenAI. El proceso de migración documentado consiste en establecer la variable de clave de OpenAI API con una clave de API de SambaNova, configurar la URL base, elegir un modelo y ejecutar la aplicación.

¿Dónde se puede desplegar SambaNova?

SambaNova describe despliegues en la nube, en las instalaciones e híbridos, incluida la opción de empezar en la nube y ampliar más adelante a infraestructura propia. También admite entornos aislados de la red para despliegues que requieren aislamiento de red.

¿SambaNova utiliza los prompts o datos de los clientes para entrenar sus sistemas?

La página de SambaCloud indica que SambaCloud no ve ni recopila datos de usuario ni prompts. La página empresarial afirma que los clientes son propietarios de sus modelos y controlan sus datos, y que estos no se comparten con SambaNova ni con terceros.

Datos rápidos

Categoría del producto
Plataforma de inferencia de IA
Usuarios principales
Desarrolladores, empresas y operadores de infraestructura de IA
Producto gestionado
SambaCloud
Productos de infraestructura
SambaRack y SambaOrchestrator
Opciones de despliegue
Entornos en la nube, en las instalaciones, híbridos y aislados de la red
Flujo de trabajo de API
Puntos de conexión compatibles con OpenAI

Análisis de tráfico de SambaNova

Los datos de tráfico son solo como referencia.

Valoración del dominio
74

Alternativas a SambaNova

Hyperstack logo

Hyperstack

www.hyperstack.cloud

Plataforma de GPU en la nube para ejecutar cargas de trabajo de IA y aprendizaje automático, con entrenamiento, inferencia, análisis de datos y desarrollo de modelos.

Runpod logo

Runpod

runpod.io

Infraestructura en la nube con GPU para que los equipos de IA desarrollen y ajusten modelos, ejecuten inferencias con escalado automático y procesen cargas de trabajo por lotes.

ComfyICU logo

ComfyICU

comfy.icu

Plataforma en la nube gestionada para ejecutar, compartir y desplegar flujos de trabajo de ComfyUI, con GPU sin servidor, espacios de trabajo para equipos y API REST, sin gestionar infraestructura de GPU.

Inference.net logo

Inference.net

inference.net

Infraestructura para ejecutar, supervisar, evaluar, entrenar y desplegar cargas de trabajo de IA en producción.

Parasail logo

Parasail

parasail.io

Parasail es una nube de inferencia para startups de IA nativa que ofrece acceso a modelos abiertos y de frontera mediante una API compatible con OpenAI, con opciones de implementación sin servidor, elástica, dedicada y por lotes.

FuriosaAI logo

FuriosaAI

furiosa.ai

Aceleradores de IA y hardware para inferencia empresarial, con optimización para LLM, modelos multimodales y cargas de trabajo exigentes en centros de datos.