Kong AI Gateway logo

Kong AI Gateway

Freemium
访问

Kong AI Gateway 在 Kong AI 连接平台中集中治理 LLM、MCP 和代理间流量,帮助平台与 AI 团队为生产环境 AI 工作负载实施安全、可观测性、路由和成本控制。

什么是 Kong AI Gateway?

Kong AI Gateway 是一个用于治理大型语言模型、MCP 资源和 agent-to-agent 工作流中 AI 流量的网关。产品页面将其描述为 Kong 更广泛的 AI 连接平台的一部分,在该平台中,API 流量、AI 流量和实时数据都可以在同一个平台上进行管理。

它的核心职责是为 AI 请求集中提供安全、路由、可观测性和成本控制。源内容强调了语义缓存、基于令牌的速率限制、提示词与 PII 保护、配额管理,以及用于 AI 使用情况和支出的遥测等能力。

Kong AI Gateway 能做什么?

统一的 AI 流量控制

通过单一网关治理 LLM、MCP 和 agent-to-agent 流量,让 API 与 AI 流量能够统一管理。

分层安全与策略执行

对 AI 请求应用 PII 清理、语义提示防护、访问控制、路由和负载均衡。

AI 可观测性与遥测

通过 AI 可观测性和指标跟踪令牌使用量、AI 消耗、工具使用、延迟、错误和成本。

成本与配额控制

使用语义缓存、基于令牌的速率限制和配额管理来控制消耗并减少不必要的支出。

MCP 治理

生成并治理 MCP 服务器和代理,包括 MCP 访问认证和上下文优化。

agent-to-agent 治理

通过集中式 AuthN/Z、可审计性以及对 A2A 调用的详细遥测来管理多智能体流量。

使用场景

“跨团队控制 LLM 访问”

为调用多个 LLM 的应用和智能体集中治理,在一个地方统一执行访问、路由和使用策略。

“将 MCP 工作流产品化”

通过服务器生成、认证执行和上下文优化,将基于 MCP 的智能体工作流投入生产。

“治理多智能体流量”

通过遥测、可审计性和集中式授权来跟踪和管理 agent-to-agent 通信,适用于多智能体系统。

“管理令牌使用与成本”

通过对令牌密集型工作负载应用语义缓存、速率限制、配额和成本分析来降低 AI 支出。

“保护敏感 AI 流量”

对处理敏感或受监管数据的 AI 请求应用 PII 清理、提示词防护和可观测性。

常见问题

Kong AI Gateway 有什么作用?

Kong AI Gateway 通过一个统一网关治理 LLM、MCP 和 agent-to-agent 流量。源页面将其描述为集中式访问控制、路由、可观测性、令牌控制、语义缓存以及 AI 流量防护策略。

是否有免费试用或付费方案?

定价页面显示 Kong Konnect 提供免费试用、按每个 Gateway 每月计费的 Plus 方案,以及具有自定义年付价格的 Enterprise 方案。AI Gateway 功能中的部分付费插件包含在定价页面所示的 Plus 和 Enterprise 打包信息中。

Kong AI Gateway 适合谁?

产品页面将其定位为面向开发者和平台团队的 AI 流量治理工具,适用于 LLM、MCP 资源和多智能体系统。Kong 将该网关定位于生产级 AI 基础设施,而非面向消费者的聊天用途。

它支持哪些类型的 AI 工作流?

源页面强调了集中式安全、路由、可观测性、配额管理和成本控制。页面还描述了对 LLM、MCP 服务器和 A2A 流量的支持,但未提供每个受支持模型或部署选项的完整公开列表。

快速信息

类别
AI 网关 / API 管理
平台
Kong Konnect 平台
主要用户
平台工程、API 团队和 AI 应用团队
域名
konghq.com
定价信号
提供免费试用;列出了 Plus 和 Enterprise 套餐

Kong AI Gateway 流量分析

流量数据仅供参考。

域名评分
80

Kong AI Gateway 替代品

Portkey logo

Portkey

portkey.ai

面向生成式 AI 团队的生产级 AI 平台,提供统一网关、可观测性、防护机制和提示词管理。

TensorZero logo

TensorZero

www.tensorzero.com

开源 LLMOps 平台,用于构建和运营生产级大语言模型应用,涵盖网关、可观测性、评估、优化与实验;现已停止维护。

Apache APISIX logo

Apache APISIX

apisix.apache.org

Apache APISIX is an open-source API gateway and AI gateway for routing, securing, observing, and governing API, microservice, and LLM traffic. It helps teams manage dynamic gateway policies through a plugin-based architecture built on NGINX and etcd.

Tinfoil logo

Tinfoil

tinfoil.sh

Tinfoil 是面向聊天、推理和安全容器化工作负载的私有 AI 平台。