GPU Pods dedicados
Inicia un entorno con GPU y controla el contenedor, el almacenamiento, el tipo de GPU y el entorno de ejecución. Runpod ofrece más de 30 SKU de GPU y despliegues en 31 regiones.
Runpod
Freemium
Infraestructura en la nube con GPU para que los equipos de IA desarrollen y ajusten modelos, ejecuten inferencias con escalado automático y procesen cargas de trabajo por lotes.
¿Qué es Runpod?
Runpod es una nube para desarrolladores de IA que combina instancias de GPU dedicadas, inferencia sin servidor con escalado automático y clústeres de GPU multinodo en una sola plataforma. Los equipos pueden usar GPU Pods para controlar contenedores, almacenamiento, tipo de GPU y entorno de ejecución; Serverless para ofrecer cargas de trabajo de inferencia mediante endpoints con escalado automático; y Clusters para trabajos coordinados en varios nodos. La plataforma admite flujos de trabajo que abarcan desde la experimentación con modelos y el ajuste fino hasta la implementación y el escalado en producción, sin tener que cambiar entre distintas cuentas de Runpod.
¿Qué puede hacer Runpod?
Endpoints Serverless con escalado automático
Implementa un controlador como endpoint de inferencia y escala los trabajadores según la demanda, incluso hasta cero cuando no haya tareas en ejecución.
Clústeres multinodo
Aprovisiona clústeres de GPU para cargas de trabajo distribuidas, conecta almacenamiento compartido y usa Slurm para gestionar tareas en varios nodos.
Facturación de computación por segundo
Los Pods y los Clusters bajo demanda se facturan por segundo; los trabajadores Serverless, según el uso. El tipo de carga de trabajo y las opciones de almacenamiento afectan al costo total.
Flujos de trabajo basados en contenedores
Usa tus propios contenedores Docker o las plantillas de Runpod para cargas de trabajo de inferencia, entrenamiento e investigación en los principales marcos de IA.
Supervisión operativa
Serverless incluye registros, supervisión y métricas en tiempo real, mientras que Runpod gestiona la cola de tareas y la distribución de trabajadores.
Casos de uso
“Desarrollar y ajustar modelos”
Usa un GPU Pod para preparar datos, ejecutar tareas de entrenamiento o ajuste fino y mantener el control directo del entorno de software.
“Ofrecer inferencia con tráfico variable”
Implementa controladores de modelos en endpoints Serverless cuando el volumen de solicitudes varíe y la capacidad de los trabajadores deba adaptarse a la demanda.
“Ejecutar entrenamiento distribuido”
Usa un Cluster multinodo con redes de alta velocidad entre nodos y Slurm cuando una tarea de entrenamiento requiera coordinar GPU en varias máquinas.
“Procesar grandes cargas de trabajo por lotes”
Aprovisiona Clusters bajo demanda para procesamientos por lotes que requieran mucha computación, conecta almacenamiento compartido y termina el clúster cuando finalice el trabajo.
Preguntas frecuentes
¿En qué se diferencian Pods, Serverless y Clusters?
Los Pods son instancias de GPU dedicadas, adecuadas para el desarrollo y las tareas de larga duración. Serverless ofrece trabajadores de inferencia con escalado automático y cobro según el uso. Clusters conectan varios nodos para cargas de trabajo distribuidas o por lotes.
¿Cómo se facturan los GPU Pods y los Clusters bajo demanda?
La información de precios describe la facturación por segundo para los Pods y los Clusters bajo demanda. Los cargos de los trabajadores Serverless se basan en el uso; el almacenamiento y las opciones de implementación también pueden afectar al costo total.
¿Puedo ejecutar mis propios contenedores y un planificador de tareas?
Sí. Clusters admite cargas de trabajo Docker proporcionadas por el usuario y comandos de Slurm como sinfo, sbatch y srun. Runpod indica que Clusters no es compatible con Kubernetes.
¿Qué tamaño puede tener un Cluster bajo demanda?
La página de clústeres indica que los usuarios pueden acceder bajo demanda a dos nodos, con hasta 16 GPU. Los clústeres más grandes, de hasta ocho nodos y 64 GPU, requieren un aumento del límite de gasto.
¿Puedo reservar capacidad para despliegues más grandes?
Runpod ofrece Clusters reservados con capacidad dedicada, configuraciones personalizadas, asistencia y proceso de incorporación, un SLA de disponibilidad y tarifas con descuento para compromisos más largos. Contacta con el equipo de ventas para consultar disponibilidad y condiciones.
Datos rápidos
- Categoría del producto
- Nube para desarrolladores de IA e infraestructura de GPU
- Opciones de computación
- GPU Pods, Serverless y Clusters multinodo
- Disponibilidad de GPU
- Más de 30 SKU de GPU en 31 regiones
- Redes de clústeres
- Ancho de banda entre nodos de 1.600–3.200 Gbps, según la configuración
- Modelos de facturación
- Facturación por segundo para Pods y Clusters bajo demanda; trabajadores Serverless con cobro según el uso
- Almacenamiento
- Opciones de almacenamiento persistente y compartido; la página de precios indica tarifas de almacenamiento desde 0,05 USD/GB/mes
Análisis de tráfico de Runpod
Los datos de tráfico son solo como referencia.
- Valoración del dominio
- 77
Alternativas a Runpod
Hyperstack
www.hyperstack.cloud
Plataforma de GPU en la nube para ejecutar cargas de trabajo de IA y aprendizaje automático, con entrenamiento, inferencia, análisis de datos y desarrollo de modelos.
SambaNova
sambanova.ai
Plataforma de inferencia de IA para ejecutar modelos abiertos de gran tamaño y cargas de trabajo con agentes, en la nube o en infraestructura propia.
ComfyICU
comfy.icu
Plataforma en la nube gestionada para ejecutar, compartir y desplegar flujos de trabajo de ComfyUI, con GPU sin servidor, espacios de trabajo para equipos y API REST, sin gestionar infraestructura de GPU.
Modal
modal.com
Modal ejecuta cargas de trabajo de CPU y GPU definidas en Python en la nube. Sirve modelos, entrena con GPU o lanza trabajos por lotes con capacidad que se adapta a la demanda y registros de uso.
Nebius AI Cloud
nebius.com
Nebius AI Cloud es una plataforma en la nube diseñada específicamente para desarrollar, entrenar y ofrecer cargas de trabajo de inteligencia artificial.
Inference.net
inference.net
Infraestructura para ejecutar, supervisar, evaluar, entrenar y desplegar cargas de trabajo de IA en producción.