AI 网关、API、模型部署、推理、可观测性和开发者基础设施工具。
维护方： Findings24·目录更新于 2026年10月25日
AI 软件开发工具包
用于将 Google 生成式模型集成到 Python 应用的 SDK，支持 Gemini Developer API 与 Gemini Enterprise Agent Platform API。
AI知识库
面向建筑、工程与施工企业的 AI 智能体平台，让搜索、审查、起草和合规工作基于图纸、规范、项目数据及互联系统开展。
AI 推理平台
面向大语言模型的高吞吐、内存高效推理与服务引擎，支持通过 OpenAI 兼容 API 部署开源模型。
托管式 AI 推理云与 API，以低延迟运行受支持的语言模型，助力开发者构建实时应用、智能体、编程工具和研究工作流。
AI 智能体基础设施
Prime Intellect 是面向 AI 模型与智能体训练、评估、部署和改进的开放式技术栈，集成强化学习环境、托管评估与训练、模型推理、GPU 算力及隔离沙箱，支持研究与生产工作流。
为 AI 智能体和自动化提供按需云浏览器与沙盒，支持网页工作流、抓取、测试及代码执行，并可通过 API、Playwright、Puppeteer、Python 或 Node.js 连接。
AI 智能体构建工具
百度智能云千帆面向企业提供一站式大模型服务与 Agent 开发平台，支持模型调用、Agent 构建、知识库应用、工具组件接入及企业级运维治理。
面向大规模 AI 与机器学习模型打包、部署、优化和运营的推理平台，支持云端、私有部署、Kubernetes 及自带云环境。
AI开发者工具
通过 MCP 集成将最新、版本特定的库文档和代码示例带入 AI 编程助手，帮助开发者基于正在使用的 API 和软件包版本生成代码。
面向生产环境部署前沿开放权重模型和自定义 AI 模型的推理云，提供无服务器模型 API、专用 GPU 端点及 BYOG 选项，支持智能体、多模态和高吞吐工作负载。
DSPy 是一个开源框架，用于通过编程构建语言模型应用，而不是手动编写提示词。其公开代码仓库包含项目代码、文档、测试、问题跟踪和贡献流程。
AI 测试助手
DeepEval 是一个开源的大语言模型评测框架，用于测试和基准评估 AI 应用，支持基于 pytest 的评测、输出与智能体轨迹评分，以及文本、图像、音频和语音工作流迭代。
AI 模型部署
为企业 AI 训练与推理设计、部署并运营专用 NVIDIA GPU 基础设施，涵盖集群工程、上线验收与持续运维支持。
Docker MCP 企业网关管理 MCP 兼容客户端对获批服务器和工具的访问，实施基于身份的策略、从获批机密存储提取凭据，并记录工具调用决策。
AI视频生成器
Black Forest Labs 开发 FLUX 模型，用于图像、视频、音频生成与理解，以及动作预测；支持浏览器体验、API 调用和自托管开放权重模型。
Ray 是一个开源、原生支持 Python 的框架，用于分布式运行和扩展 AI、机器学习及其他计算密集型工作负载。
AI 网关与路由
开源 LLMOps 平台，用于构建和运营生产级大语言模型应用，涵盖网关、可观测性、评估、优化与实验；现已停止维护。
New API 是面向开发者和团队的开源、自托管 AI 网关，提供统一的 OpenAI 兼容端点，用于连接多个 AI 提供商、选择模型、配置渠道并监控用量。
为开发者和团队提供托管机器学习模型推理与按需 GPU 实例，覆盖文本、图像、音频、视频、嵌入、重排序等工作负载，按用量付费。
Lambda 为 AI 训练、微调、推理和原型开发提供云 GPU 算力。团队可启动按需 GPU 实例、使用生产就绪的 1-Click Clusters，或咨询适用于更大工作负载的预留和单租户基础设施。
