AI 网关与路由工具,帮助管理模型 API、跨服务商分发请求、控制访问权限,并监控生产环境中的使用情况。
目录更新于 2026年11月19日
AI 智能体基础设施
hoop.dev 是一款开源、支持协议感知的反向代理,可部署在数据库、集群等资源旁边,在流量到达目标前检查并管控客户端和 AI 代理的交互。它可屏蔽敏感响应数据、拦截不允许的命令,并将指定操作提交审核。
AI 网关与路由
Helicone 是面向 AI 应用开发者的开源网关与大语言模型可观测性平台,可路由模型请求,并帮助团队分析用量、延迟、成本及应用行为。支持云端服务和自托管部署。
Apache APISIX 是面向 API、微服务和大模型流量的开源网关,支持动态路由、身份验证、限流与可观测性,并可通过插件管理 OpenAI 兼容端点。
Obot 是面向企业的开源 AI 控制平面与 MCP 网关,用于部署、治理和审计 AI 代理、MCP 服务器及 Skills。
Hopscotch 为开发者和团队提供一个 API,统一接入 Anthropic、OpenAI、Google 等平台的 500 多个模型。可切换模型、配置故障回退,并通过密钥、成员和工作区额度管理支出。
AI 内容审核
iDox.ai 面向企业、政府及受监管机构,帮助识别并脱敏文档中的个人、健康、财务和机密信息,并监控 AI 提示、回复及代理活动中的敏感数据。
Chat100.ai 是一个网页 AI 聊天平台,可在同一处访问、切换和比较 ChatGPT、Grok 与 Gemini。
useapi.net 是一款付费 REST API,通过一次集成即可自动化 AI 视频、图像、音乐、语音和换脸工作流。
兼容 OpenAI 的网关,用于路由、评估和治理 200 多种 AI 模型的访问。
Tinfoil 是面向聊天、推理和安全容器化工作负载的私有 AI 平台。
TrustedRouter 是兼容 OpenAI 的 AI 网关,可在数百种模型和服务商之间路由请求,提供可配置的隐私路由、服务商故障转移和可验证的提示词路径,面向开发者与团队打造。
Ramp Router 是一个大语言模型网关,为应用提供统一 API 端点,以访问多个供应商的模型,并根据成本、质量和可用性路由请求,同时提供用量与支出可见性。
Agent Router 是一个基于 Envoy Gateway 的开源 Go 项目,用于统一管理生成式 AI 服务的访问。它面向希望通过网关集中管理 AI 服务流量及相关 Agent 或 MCP 工作负载的平台与基础设施团队。
面向 AI 模型访问的 API 路由器,集成计费与用户管理,统一上游接入、请求路由和实时支出追踪。
OneCLI 是一个开源平台,为员工提供可跨公司工具协作的个人 AI 智能体,并通过隔离沙箱、网关策略、凭据分级、审批和审计日志支持团队使用。
AI编程助手
Zro 是面向编码代理的私有推理端点,在欧盟基础设施上提供开放权重模型服务。支持兼容 OpenAI 和 Anthropic 的请求,并可通过启动器为多种编码工具完成设置。
AI 趣味工具
Jobo API 提供职位数据基础设施,支持职位信息、同步、导出、丰富和工作流自动化。
AI开发者工具
面向编程团队的智能体网关:压缩令牌用量、跨模型路由请求,并提供用量可视化;Compression V2 可作为 Claude Code、Codex、OpenCode、Cursor 等智能体的即插即用 CLI 层。
TextSynth REST API 与 playground,访问语言、图像、语音、转录、翻译和嵌入模型。
开源 LLMOps 平台,用于构建和运营生产级大语言模型应用,涵盖网关、可观测性、评估、优化与实验;现已停止维护。