# Modal Modal 面向开发者提供云端 CPU 和 GPU 计算。通过 Python SDK 定义依赖与硬件，即可运行模型推理、训练和批处理任务，按需扩展容器并查看运行日志。 - Findings24: - 网站: - 价格: Freemium - 分类: AI 推理平台, GPU 云服务 ## 什么是 Modal？ Modal 是面向开发者的云端基础设施，用于运行模型推理、训练、批处理和智能体工作负载。通过 Python SDK 定义应用、依赖和硬件；Modal 会将代码打包到容器中，在云端运行，并根据需求扩展容器容量。 开始使用时，请创建账户、安装 Modal 软件包并通过 CLI 完成身份验证。定义工作负载及其环境，然后远程运行，或将函数部署为 HTTPS 端点。工作区提供日志和指标，用于检查运行情况。即使计划使用包含的计算额度，GPU 使用也需要预先绑定有效的付款方式。 ## Modal 能做什么？ ### 通过代码定义云端执行 使用 Python 描述函数的容器环境以及 CPU/GPU 要求。Modal 负责管理底层容量和容器执行，无需你另行搭建集群。 ### 推理和训练工作负载 部署开放权重模型或自定义模型栈，运行微调和强化学习任务，或使用单节点和多节点 GPU 容量开展研究。 ### 后台任务和 Web 函数 将工作分配到并行容器中，启动异步批处理任务，或将函数公开为可根据流量扩展、并可缩减至零的 HTTPS 端点。 ### 智能体沙箱和运行可见性 为编程智能体或其他代码执行创建隔离环境，并支持自定义镜像以及快照/恢复选项。查看函数、沙箱和容器的日志与指标，以调试工作负载。 ## 使用场景 ### 部署应用专用的模型服务 接入你的推理栈，并通过云端点将其连接到应用，使计算容量能够随请求量变化而调整。 ### 运行训练和并行数据处理 使用 GPU 任务进行微调或训练，使用并行函数执行预处理、评估和批处理。 ### 为编程智能体提供执行环境 在以编程方式创建的沙箱中运行智能体生成的命令或 rollout 任务，然后在工作区中查看输出和日志。 ## 常见问题 ### Starter 套餐包含哪些内容？ Starter 不收取月度套餐费，每月包含 30 美元计算额度，最多支持 3 个工作区席位、100 个容器和 10 个并发 GPU。超出额度的计算用量以及套餐范围外的服务将另行计费。GPU 使用需要有效的付款方式。 ### 月度额度是否涵盖 Shared Endpoints？ 包含的计算额度涵盖使用 CPU、内存和 GPU 时间的 Functions、Sandboxes 和 Notebooks。自 2026 年 9 月 1 日起，Shared Endpoints 不再包含在该额度内，并从首次请求起按 token 计费。 ### 容器计算何时会计费？ 计费包括应用加载、输入处理，以及最后一次输入之后可配置的预热期（默认 60 秒）。当应用缩减至零个容器时，计算费用停止。CPU/内存计费采用请求资源量与实际资源量中的较高值；存储、出站流量和 token 服务有各自的定价。 ### Team 和 Enterprise 的定价有何不同？ Team 每月 250 美元，另加计算费用，并包含每月 100 美元的计算额度、不限席位数和更高的并发量。Enterprise 采用定制价格。超出包含额度的计算用量以及套餐范围外的服务将另行计费。 ### 使用 Modal 构建应用需要什么？ 创建账户、安装并验证 Python SDK，然后定义包含依赖和硬件的容器化工作负载。应用逻辑和模型栈由你提供。Modal 负责托管执行；其指南提供了推理、训练、批处理和沙箱示例。 ## 快速信息 - **产品**: 用于容器化 CPU/GPU 和 AI 工作负载的云平台 - **主要开发语言**: Python - **工作负载类型**: 推理、训练、函数、批处理任务和沙箱 - **核心免费额度**: Starter：每月 30 美元计算额度，受套餐限制 - **计费区别**: 容器计算按资源计费；Shared Endpoints 使用单独计费的 token