探索 AI 模型部署工具与平台,支持将机器学习模型上线、扩展、监控并高效管理生产环境中的推理服务。
目录更新于 2026年11月18日
AI 智能体构建工具
Kopai 是一个托管平台,用于构建、运行、发布和变现领域专用 AI 智能体,支持团队内部使用、市场上架及通过实时 API 部署到创作者自有网站。
AI 模型部署
使用标注图像训练适用于特定场景的计算机视觉模型,并在评估后通过 REST API 为新图像生成标签。
无需编程即可使用带标签的业务示例训练文本和图像分类模型。
Compartment 是一个自托管平台,用于部署和共享小型应用、工具、智能体与自动化流程,为团队提供一致的部署路径、访问控制、HTTPS 以及由团队掌控基础设施上的隔离运行环境。
AI开发者工具
Kubetorch 是一个用于在 Kubernetes 上运行机器学习工作负载的 Python 接口。开发者可在本地定义函数,并从 IDE、笔记本、CI 流水线或生产代码中调用集群算力。
面向企业 AI 智能体构建、部署、治理与优化的开放式 Google Cloud 平台。
AI 智能体基础设施
Microsoft Foundry 是一个面向企业的 AI 平台,用于构建、关联上下文、部署和治理 AI 应用与智能体,帮助开发和数据团队在 Azure 中连接模型、组织知识、业务工具及全生命周期控制。
AI 推理平台
KServe 是一个基于 Kubernetes 的推理平台,用于跨多种模型框架部署分布式生成式和预测式 AI 工作负载。
Qualcomm AI Hub 面向开发者,支持将 PyTorch 或 ONNX 模型转换并优化为适用于高通设备的运行时格式,还可在托管设备上运行推理和分析性能。
BytePlus 面向组织的一站式大语言模型服务平台,支持 AI 应用的构建、部署与规模化。