# Zyphra Zyphra Cloud 为开发者和企业提供托管模型推理服务,支持无服务器部署和专用推理容量,适用于长上下文及多步骤智能体应用。 - Findings24: - 网站: - 分类: AI 推理平台 ## 什么是 Zyphra? Zyphra 将开放式 AI 研究实验室与用于构建和部署 AI 系统的云平台相结合。目前,Zyphra Cloud 提供通过 Zyphra Inference 托管模型服务,重点面向长上下文和多步骤智能体工作负载。开发者可以使用云服务,而无需自行运营模型服务基础设施。 该平台提供无服务器推理和专用推理容量。其模型目录包括语言模型和语音生成模型,使用价格取决于所选模型和输入类型。Zyphra Research 探索架构和计算系统,但这些研究主题与托管服务的能力有所区别。研究主题和已公布的平台计划,并不表示相应能力已在 Cloud 中提供。 ## Zyphra 能做什么? ### 无服务器推理 运行托管的开放权重模型,无需管理服务基础设施。通过 Zyphra Cloud 及其 API 服务访问该服务。 ### 专用推理容量 为对延迟敏感的生产工作负载使用预留的服务容量,而不是通用的无服务器部署。 ### 按模型提供服务和定价 Cloud 模型目录决定当前可用的托管语言与语音能力。各模型的可用性、使用单位和费率应分别查看,不能由研究公告直接推断。 ## 使用场景 ### 为智能体应用提供服务 在长上下文和模型服务基础设施都很重要的多步骤应用中使用托管推理。 ### 比较推理部署选项 针对具有特定延迟和容量需求的应用,评估无服务器访问与预留容量之间的差异。 ### 添加语言或语音生成 为语言任务或文本转语音选择合适的托管模型,并考虑其对应的使用单位和价格。 ## 常见问题 ### 模型使用价格如何计算? 使用单位和价格取决于所选模型及服务。使用前请查看 Zyphra Cloud 当前定价,确认输入、输出及可能的缓存用量如何计量。token、字节、字符和音频分钟不能直接等同。 ### 是否有列明免费提供的托管推理? 可用模型、免费选项及使用额度以当前 Cloud 模型目录和定价为准。研究模型开放或其许可条件,并不等于托管推理或预留容量免费。 ### 关于长期记忆的研究是否意味着云服务已将其作为完整功能提供? 不是。研究方向和已公布的平台计划应与 Zyphra Cloud 当前可用的服务区分开来。部署前请根据现行服务文档确认具体能力是否已经提供。 ### 我可以将公共演示用于生产工作负载吗? 公共演示不能视为生产服务承诺。用于生产前请确认适用的服务和数据处理条款;提交机密或敏感信息前,应先确认其处理条件。 ## 快速信息 - **核心托管服务**: Zyphra Cloud 模型推理 - **部署选项**: 无服务器推理和专用服务容量 - **主要用户**: 集成 AI 模型服务的开发者和企业 - **使用单位**: 以所选模型及服务当前计费单位为准 - **相关工作**: 开放模型和计算系统研究