Findings24Findings24
Heron logo

Heron

认领

Heron 是面向 AI agents 和 LLM API 的被动可观测性工具，可从网络流量或主机 TLS 边界重建对话、工具调用和性能指标；无需修改 SDK，也不占请求路径。

AI开发者工具监控日志管理
访问网站
Heron preview

概述

Heron 是面向 AI agents 和 LLM API 的被动可观测性工具。它从网络流量或主机 TLS 边界重建 agent 活动，因此用户无需修改被观察的工作负载，就能检查对话、工具调用、LLM 交互和性能数据。

该项目将自身定位为提供方侧监控：它不位于请求路径中，不需要修改 SDK，并且可以通过回放 `.pcap`、从实时接口捕获，或摄取来自可信来源的流量来使用。README 还描述了一个用于主机上加密流量的实验性 Linux eBPF 抓取路径。

它的控制台和 API 暴露时间线、turn 重建，以及 TTFT、延迟、吞吐量、错误率和按 agent 划分的混合情况等指标。仓库还强调了用于服务拓扑检查的输出，以及将 turn 导出为可用于微调的 JSONL。

Heron 的功能

Agent turn 重建

将多次调用的 agent 交互重建为可单独定位的 turn，帮助你按 planner、tool、result 和下一步的顺序跟踪，而不是只看原始请求。

流量衍生性能指标

从捕获的流量中测量实时 TTFT、延迟、吞吐量、错误率和按 agent 划分的混合情况，并在本地控制台和 API 中展示。

多种抓取路径

可通过 `.pcap` 回放、实时网络接口、云探针入口，或用于主机上 TLS 加密流量的实验性 Linux eBPF 数据源工作。

服务拓扑视图

根据线上字节流对服务拓扑进行分类，并能以有向图展示客户端到代理再到后端的关系。

SFT 轨迹导出

将 turn 或 session 导出为 OpenAI 风格的 messages JSONL，保留 tool calls、结果和 reasoning，便于微调工作流使用。

Wire API 解码

识别多种 wire API，包括 OpenAI Chat Completions、OpenAI Responses、Anthropic Messages 和 Gemini AI Studio。

常见使用场景

  • 分析已捕获的 agent 会话

    回放已记录的数据包捕获，在事后检查 agent 行为，包括 turn 结构、工具使用和时序，而无需访问原始运行时。

  • 在不修改代码的情况下观察生产流量

    监控推理主机或 TLS 终止器，在无法方便添加 SDK 埋点的环境中被动观察 LLM 流量。

  • 绘制推理基础设施拓扑

    通过服务拓扑视图检查一组服务如何将请求路由到代理和后端，推断哪些端点承担哪些角色。

  • 从实时流量准备训练数据

    将真实的 agent turn 导出为 OpenAI 风格的 messages JSONL，以便在下游微调或数据集构建工作流中复用。

  • 排查延迟和可靠性问题

    在调试或性能评审期间，使用 CLI 和本地控制台查看时间线、指标和按 agent 划分的混合情况。

Pros and Cons

Pros

  • 被动监控，无需修改 SDK。
  • 可回放 `.pcap` 文件、抓取实时流量，或从可信数据包来源摄取。
  • 重建完整的 agent turn，而不是只留下孤立的 HTTP 调用。
  • 呈现 TTFT、延迟、吞吐量和错误率等运行指标。
  • 可将 turn 或 session 以适合微调工作流的格式导出。

Cons

  • 在收集到的来源中，仓库没有公布 Heron 的独立定价。
  • eBPF 抓取路径被描述为实验性功能，且仅支持 Linux。
  • 抓包只能看到明文，因此除非使用 eBPF 路径，否则 Heron 必须部署在流量已经解密的位置。

FAQ

Heron 监控什么？

Heron 从网络流量或 TLS 边界重建 agent 对话、工具调用和 LLM 交互。它被描述为被动可观测性方案，不需要修改 SDK，也不占用请求路径中的代理。

如何使用它？

README 展示了快速开始：先在 Linux 或 macOS 上安装用户本地二进制文件，然后使用 `heron --pcap-file capture.pcap --no-retention` 回放 `.pcap`。它也支持从 Linux 上的 `eth0` 等接口进行实时抓包。

支持哪些 agent 或 API 格式？

源代码中突出显示了 OpenAI Chat Completions、OpenAI Responses、Anthropic Messages 和 Gemini AI Studio 的 wire 格式。它还提到 Claude Code、OpenAI Codex CLI 的命名配置文件，以及适用于其他 agent 的通用配置文件。

Heron 应该部署在哪里？

Heron 适合部署在流量已经解密的位置，例如推理主机上或 TLS 终止器之后。README 还描述了一个用于主机上加密流量的实验性 Linux eBPF 抓包路径。

Heron 是否有公开定价？

GitHub 的定价页面显示 GitHub 提供 Free、Team 和 Enterprise 方案，但并未提供 Heron 产品本身的定价。此处的仓库来源也没有说明 Heron 的价格。

Quick Facts

类别
开发者工具
主要用途
Agent 和 LLM API 可观测性
部署模型
提供方侧或主机侧被动抓取
提到的接口
`.pcap`、实时接口、cloud-probe ZMQ、Linux eBPF
支持的 wire API
OpenAI Chat Completions、OpenAI Responses、Anthropic Messages、Gemini AI Studio
仓库
github.com/Netis/heron