Not Diamond logo

Not Diamond

认领

Not Diamond 是面向编码代理的智能模型路由器,可按提示或步骤选择模型,帮助工程团队在提升质量的同时降低成本。可与现有网关和 harness 基础设施集成,并提供注重隐私与企业级部署选项。

Not Diamond preview

Not Diamond 的功能

Not Diamond 是面向编码代理的智能模型路由器。它会预测每个提示或步骤应使用哪个 AI 模型,目标是在长周期代理工作负载中帮助工程团队在提升质量的同时降低成本。

该产品定位为一个安全的集成层,可与现有 harness 和网关基础设施配合工作,而不是充当网关本身。网站称,它面向生产级工作流而设计,支持从使用信号中持续学习,并为需要将载荷数据保留在本地的团队提供注重隐私的路由选项。

核心能力

逐步模型路由

预测每个提示或步骤应使用哪个模型,帮助团队在整个代理工作流中平衡质量与成本。

上下文感知决策

使用载荷语义、KV cache 状态、隐式反馈、会话结果、子代理架构、压缩事件以及历史轮次等信号做出推荐。

兼容你现有的技术栈

可与现有网关基础设施集成,而不是替换它,并且被描述为通过安全 API 实现技术栈无关。

持续学习闭环

支持从 harness 使用情况和会话结果中持续学习,并使用强化学习来随时间改进推荐。

保护隐私的路由

提供注重隐私的路由,依赖派生请求元数据和本地计算特征,而不会看到载荷、输入或输出。

企业部署选项

为企业客户提供组织级分析,以及高级安全和管理控制、MDM 部署、带 SAML 的 SSO、SLA 和 24/7 支持。

适用场景

  • 降低编码代理成本

    当团队希望在不为每一步手动选择模型的情况下,降低编码代理工作流中的推理支出时使用 Not Diamond。

  • 基于上下文改进模型选择

    当代理质量很重要,且路由决策需要考虑提示上下文、缓存状态、历史轮次和会话结果时使用。

  • 为现有技术栈增加路由

    当你已经有网关和 harness,并希望路由融入现有技术栈而不是替换它时使用。

  • 将载荷数据保留在本地

    当团队需要针对敏感工作负载的隐私保护路由,并希望基于派生元数据而不是原始载荷进行决策时使用。

  • 在组织范围内部署

    当企业团队需要围绕路由基础设施的集中式分析、管理控制、SSO、MDM 部署支持和 SLA 时使用。

Pros and Cons

Pros

  • 专为编码代理工作负载打造,而非通用模型选择。
  • 可集成到现有的 harness 和网关设置中,无需引入新的网关。
  • 包含注重隐私的路由,不要求产品看到载荷、输入或输出。
  • 支持从 harness 使用情况和会话结果中持续学习。
  • 提供独立的企业路径,包含分析、安全、管理控制、SSO、SLA 和 24/7 支持。

Cons

  • 定价页面显示,每次路由推荐平均会增加约 100-200 毫秒的延迟。
  • 公开页面并未详细说明所有受支持的 harness、网关或企业部署流程。
  • 网站对定价的描述较为概括,但所提供材料中未公布准确费率和套餐限制。

FAQ

什么是智能模型路由?

智能模型路由会为每个提示预测应使用哪个 AI 模型,从而帮助团队在降低成本的同时提升准确性。Not Diamond 将这一方法应用于编码代理工作流。

Not Diamond 是网关吗?

不是。定价页面说明 Not Diamond 不是网关;它会与你现有的网关基础设施集成,并与你选择的模型网关和 harness 协同工作。

Not Diamond 适用于编码代理吗?

该产品被描述为专为长周期编码代理工作负载打造,并可与多种编码代理 harness 配合使用。定价页面还说明,如有自定义 harness 集成需求,可与团队沟通。

Not Diamond 支持 Claude Code 吗?

可以。定价 FAQ 表示,Not Diamond 可与 Claude Code 配合使用,并且在仅与 Anthropic 模型一起使用时,符合 Anthropic 的商业服务条款。

团队可以节省多少成本,延迟影响如何?

定价页面称,使用 Not Diamond 的团队通常可实现至少 20-40% 的成本节省,且往往更多,同时相较于前沿水平不会降低质量。页面还说明该路由器平均每步会增加约 100-200 毫秒。

Quick Facts

类别
开发者工具 / AI 基础设施
主要用途
面向编码代理的模型路由
集成方式
可与现有网关基础设施和编码代理 harness 配合工作
定价形式
早期访问可免费试用;企业版联系销售
隐私选项
使用派生元数据和本地特征的隐私保护路由
来源域名
notdiamond.ai