Modal es una infraestructura en la nube para desarrolladores que ejecutan cargas de trabajo de inferencia de modelos, entrenamiento, procesamiento por lotes y agentes. Define tu aplicación, sus dependencias y el hardware mediante el SDK de Python de Modal; Modal empaqueta el código en contenedores, lo ejecuta en la nube y adapta la capacidad de los contenedores a la demanda.
Para empezar, crea una cuenta, instala el paquete de Modal y autentícate con la CLI. Define una carga de trabajo y su entorno; después, ejecútala de forma remota o despliega una función como punto de conexión HTTPS. El espacio de trabajo muestra registros y métricas para inspeccionar las ejecuciones. Para usar GPU, debes tener registrado un método de pago válido, incluso si piensas utilizar los créditos de cómputo incluidos.