逐步模型路由
预测每个提示或步骤应使用哪个模型,帮助团队在整个代理工作流中平衡质量与成本。
Not Diamond 是面向编码代理的智能模型路由器,可按提示或步骤选择模型,帮助工程团队在提升质量的同时降低成本。可与现有网关和 harness 基础设施集成,并提供注重隐私与企业级部署选项。
Not Diamond 是面向编码代理的智能模型路由器。它会预测每个提示或步骤应使用哪个 AI 模型,目标是在长周期代理工作负载中帮助工程团队在提升质量的同时降低成本。
该产品定位为一个安全的集成层,可与现有 harness 和网关基础设施配合工作,而不是充当网关本身。网站称,它面向生产级工作流而设计,支持从使用信号中持续学习,并为需要将载荷数据保留在本地的团队提供注重隐私的路由选项。
预测每个提示或步骤应使用哪个模型,帮助团队在整个代理工作流中平衡质量与成本。
使用载荷语义、KV cache 状态、隐式反馈、会话结果、子代理架构、压缩事件以及历史轮次等信号做出推荐。
可与现有网关基础设施集成,而不是替换它,并且被描述为通过安全 API 实现技术栈无关。
支持从 harness 使用情况和会话结果中持续学习,并使用强化学习来随时间改进推荐。
提供注重隐私的路由,依赖派生请求元数据和本地计算特征,而不会看到载荷、输入或输出。
为企业客户提供组织级分析,以及高级安全和管理控制、MDM 部署、带 SAML 的 SSO、SLA 和 24/7 支持。
当团队希望在不为每一步手动选择模型的情况下,降低编码代理工作流中的推理支出时使用 Not Diamond。
当代理质量很重要,且路由决策需要考虑提示上下文、缓存状态、历史轮次和会话结果时使用。
当你已经有网关和 harness,并希望路由融入现有技术栈而不是替换它时使用。
当团队需要针对敏感工作负载的隐私保护路由,并希望基于派生元数据而不是原始载荷进行决策时使用。
当企业团队需要围绕路由基础设施的集中式分析、管理控制、SSO、MDM 部署支持和 SLA 时使用。
智能模型路由会为每个提示预测应使用哪个 AI 模型,从而帮助团队在降低成本的同时提升准确性。Not Diamond 将这一方法应用于编码代理工作流。
不是。定价页面说明 Not Diamond 不是网关;它会与你现有的网关基础设施集成,并与你选择的模型网关和 harness 协同工作。
该产品被描述为专为长周期编码代理工作负载打造,并可与多种编码代理 harness 配合使用。定价页面还说明,如有自定义 harness 集成需求,可与团队沟通。
可以。定价 FAQ 表示,Not Diamond 可与 Claude Code 配合使用,并且在仅与 Anthropic 模型一起使用时,符合 Anthropic 的商业服务条款。
定价页面称,使用 Not Diamond 的团队通常可实现至少 20-40% 的成本节省,且往往更多,同时相较于前沿水平不会降低质量。页面还说明该路由器平均每步会增加约 100-200 毫秒。