统一的 AI 流量控制
通过单一网关治理 LLM、MCP 和 agent-to-agent 流量，让 API 与 AI 流量能够统一管理。
概述
Kong AI Gateway 是一个用于治理大型语言模型、MCP 资源和 agent-to-agent 工作流中 AI 流量的网关。产品页面将其描述为 Kong 更广泛的 AI 连接平台的一部分，在该平台中，API 流量、AI 流量和实时数据都可以在同一个平台上进行管理。
它的核心职责是为 AI 请求集中提供安全、路由、可观测性和成本控制。源内容强调了语义缓存、基于令牌的速率限制、提示词与 PII 保护、配额管理，以及用于 AI 使用情况和支出的遥测等能力。
核心能力
分层安全与策略执行
对 AI 请求应用 PII 清理、语义提示防护、访问控制、路由和负载均衡。
AI 可观测性与遥测
通过 AI 可观测性和指标跟踪令牌使用量、AI 消耗、工具使用、延迟、错误和成本。
成本与配额控制
使用语义缓存、基于令牌的速率限制和配额管理来控制消耗并减少不必要的支出。
MCP 治理
生成并治理 MCP 服务器和代理，包括 MCP 访问认证和上下文优化。
agent-to-agent 治理
通过集中式 AuthN/Z、可审计性以及对 A2A 调用的详细遥测来管理多智能体流量。
实用用例
跨团队控制 LLM 访问
为调用多个 LLM 的应用和智能体集中治理，在一个地方统一执行访问、路由和使用策略。
将 MCP 工作流产品化
通过服务器生成、认证执行和上下文优化，将基于 MCP 的智能体工作流投入生产。
治理多智能体流量
通过遥测、可审计性和集中式授权来跟踪和管理 agent-to-agent 通信，适用于多智能体系统。
管理令牌使用与成本
通过对令牌密集型工作负载应用语义缓存、速率限制、配额和成本分析来降低 AI 支出。
保护敏感 AI 流量
对处理敏感或受监管数据的 AI 请求应用 PII 清理、提示词防护和可观测性。
Pros and Cons
Pros
- 将 LLM、MCP 和 agent-to-agent 治理整合到一个网关中。
- 包含 PII 清理、访问控制和语义提示防护等安全控制。
- 提供语义缓存、基于令牌的速率限制和配额等成本管理功能。
- 提供面向 AI 的可观测性，包括令牌级跟踪和实时成本分析。
- 可融入 Kong 更广泛的平台，该平台还覆盖 API、事件和开发者工作流。
Cons
- 将部分 AI Gateway 能力作为付费插件或企业版插件提供，因此并非所有能力都包含在基础试用或低阶套餐中。
- 源页面未提供支持模型、部署环境或外部集成的完整公开清单。
FAQ
Kong AI Gateway 有什么作用？
Kong AI Gateway 通过一个统一网关治理 LLM、MCP 和 agent-to-agent 流量。源页面将其描述为集中式访问控制、路由、可观测性、令牌控制、语义缓存以及 AI 流量防护策略。
是否有免费试用或付费方案？
定价页面显示 Kong Konnect 提供免费试用、按每个 Gateway 每月计费的 Plus 方案，以及具有自定义年付价格的 Enterprise 方案。AI Gateway 功能中的部分付费插件包含在定价页面所示的 Plus 和 Enterprise 打包信息中。
Kong AI Gateway 适合谁？
产品页面将其定位为面向开发者和平台团队的 AI 流量治理工具，适用于 LLM、MCP 资源和多智能体系统。Kong 将该网关定位于生产级 AI 基础设施，而非面向消费者的聊天用途。
它支持哪些类型的 AI 工作流？
源页面强调了集中式安全、路由、可观测性、配额管理和成本控制。页面还描述了对 LLM、MCP 服务器和 A2A 流量的支持，但未提供每个受支持模型或部署选项的完整公开列表。
Quick Facts
- 类别
- AI 网关 / API 管理
- 平台
- Kong Konnect 平台
- 主要用户
- 平台工程、API 团队和 AI 应用团队
- 域名
- konghq.com
- 定价信号
- 提供免费试用；列出了 Plus 和 Enterprise 套餐
Kong AI Gateway 替代品
Orca
Orca 是面向编码代理的 Agent 开发环境，支持在隔离的 git worktree 中并行运行多个 CLI agent，并提供桌面端与移动端协作流程。
AI Magicx
AI Magicx 是一体化 AI 工作区，集聊天、图片、视频、语音、音乐、邮件和开发任务于一处，帮助创作者、团队和开发者集中使用多种模型，无需在多个工具和订阅间切换。
Paper
Paper 是一款设计工具，连接画布、代码和 AI agent，让团队在一个工作流中完成创建、协作与交付。支持桌面应用、基于 MCP 的 agent 访问，以及真实内容和设计 token 工作流。
blop
blop 是一款 QA agent，可在仓库中将浏览器测试以代码形式编写并运行于 CI，聚合重复失败，还可发起 PR 修复失效测试，适合需要可审查、版本控制浏览器 QA 的团队。
RLAMA
RLAMA 是一款本地 AI 平台，适用于在 macOS、Linux 和 Windows 上构建 RAG 系统与智能体。支持本地处理、交互式终端工作流和用于文档问答及多智能体自动化的 HTTP API。
Kastra
Kastra 为 AI 系统提供授权基础设施，在执行前检查提示词、工具调用、Shell 命令、API 请求和浏览器操作，帮助团队执行策略并管理本地与企业 AI 工作流。