# Runpod Infraestructura en la nube con GPU para que los equipos de IA desarrollen y ajusten modelos, ejecuten inferencias con escalado automático y procesen cargas de trabajo por lotes. - Findings24: - Sitio web: - Precios: Freemium - Categorías: Plataformas de inferencia de IA, Despliegue de modelos de IA, Nube de GPU ## ¿Qué es Runpod? Runpod es una nube para desarrolladores de IA que combina instancias de GPU dedicadas, inferencia sin servidor con escalado automático y clústeres de GPU multinodo en una sola plataforma. Los equipos pueden usar GPU Pods para controlar contenedores, almacenamiento, tipo de GPU y entorno de ejecución; Serverless para ofrecer cargas de trabajo de inferencia mediante endpoints con escalado automático; y Clusters para trabajos coordinados en varios nodos. La plataforma admite flujos de trabajo que abarcan desde la experimentación con modelos y el ajuste fino hasta la implementación y el escalado en producción, sin tener que cambiar entre distintas cuentas de Runpod. ## ¿Qué puede hacer Runpod? ### GPU Pods dedicados Inicia un entorno con GPU y controla el contenedor, el almacenamiento, el tipo de GPU y el entorno de ejecución. Runpod ofrece más de 30 SKU de GPU y despliegues en 31 regiones. ### Endpoints Serverless con escalado automático Implementa un controlador como endpoint de inferencia y escala los trabajadores según la demanda, incluso hasta cero cuando no haya tareas en ejecución. ### Clústeres multinodo Aprovisiona clústeres de GPU para cargas de trabajo distribuidas, conecta almacenamiento compartido y usa Slurm para gestionar tareas en varios nodos. ### Facturación de computación por segundo Los Pods y los Clusters bajo demanda se facturan por segundo; los trabajadores Serverless, según el uso. El tipo de carga de trabajo y las opciones de almacenamiento afectan al costo total. ### Flujos de trabajo basados en contenedores Usa tus propios contenedores Docker o las plantillas de Runpod para cargas de trabajo de inferencia, entrenamiento e investigación en los principales marcos de IA. ### Supervisión operativa Serverless incluye registros, supervisión y métricas en tiempo real, mientras que Runpod gestiona la cola de tareas y la distribución de trabajadores. ## Casos de uso ### Desarrollar y ajustar modelos Usa un GPU Pod para preparar datos, ejecutar tareas de entrenamiento o ajuste fino y mantener el control directo del entorno de software. ### Ofrecer inferencia con tráfico variable Implementa controladores de modelos en endpoints Serverless cuando el volumen de solicitudes varíe y la capacidad de los trabajadores deba adaptarse a la demanda. ### Ejecutar entrenamiento distribuido Usa un Cluster multinodo con redes de alta velocidad entre nodos y Slurm cuando una tarea de entrenamiento requiera coordinar GPU en varias máquinas. ### Procesar grandes cargas de trabajo por lotes Aprovisiona Clusters bajo demanda para procesamientos por lotes que requieran mucha computación, conecta almacenamiento compartido y termina el clúster cuando finalice el trabajo. ## Preguntas frecuentes ### ¿En qué se diferencian Pods, Serverless y Clusters? Los Pods son instancias de GPU dedicadas, adecuadas para el desarrollo y las tareas de larga duración. Serverless ofrece trabajadores de inferencia con escalado automático y cobro según el uso. Clusters conectan varios nodos para cargas de trabajo distribuidas o por lotes. ### ¿Cómo se facturan los GPU Pods y los Clusters bajo demanda? La información de precios describe la facturación por segundo para los Pods y los Clusters bajo demanda. Los cargos de los trabajadores Serverless se basan en el uso; el almacenamiento y las opciones de implementación también pueden afectar al costo total. ### ¿Puedo ejecutar mis propios contenedores y un planificador de tareas? Sí. Clusters admite cargas de trabajo Docker proporcionadas por el usuario y comandos de Slurm como sinfo, sbatch y srun. Runpod indica que Clusters no es compatible con Kubernetes. ### ¿Qué tamaño puede tener un Cluster bajo demanda? La página de clústeres indica que los usuarios pueden acceder bajo demanda a dos nodos, con hasta 16 GPU. Los clústeres más grandes, de hasta ocho nodos y 64 GPU, requieren un aumento del límite de gasto. ### ¿Puedo reservar capacidad para despliegues más grandes? Runpod ofrece Clusters reservados con capacidad dedicada, configuraciones personalizadas, asistencia y proceso de incorporación, un SLA de disponibilidad y tarifas con descuento para compromisos más largos. Contacta con el equipo de ventas para consultar disponibilidad y condiciones. ## Datos rápidos - **Categoría del producto**: Nube para desarrolladores de IA e infraestructura de GPU - **Opciones de computación**: GPU Pods, Serverless y Clusters multinodo - **Disponibilidad de GPU**: Más de 30 SKU de GPU en 31 regiones - **Redes de clústeres**: Ancho de banda entre nodos de 1.600–3.200 Gbps, según la configuración - **Modelos de facturación**: Facturación por segundo para Pods y Clusters bajo demanda; trabajadores Serverless con cobro según el uso - **Almacenamiento**: Opciones de almacenamiento persistente y compartido; la página de precios indica tarifas de almacenamiento desde 0,05 USD/GB/mes