托管式推理 API
通过 Cerebras 的托管式推理服务运行受支持的 AI 模型，无需自行管理底层推理硬件。
什么是 Cerebras Inference？
Cerebras Inference 是托管式 AI 推理云与 API，用于在交互式软件中运行受支持的语言模型。其主要目标是降低编程工具、研究助手、语音体验、自动化和智能体工作流等应用的响应延迟。
该服务采用 Cerebras 晶圆级硬件，并宣称在推理性能方面最高可比 GPU 系统快 30 倍。Cerebras 还将速度定位为在延迟预算内容纳更多推理的方式；其定价页面则针对不同工作负载规模提供自助服务和企业访问路径。
据 Cerebras 介绍，开发者可利用 OpenAI API 兼容性，通过修改两处代码来适配现有集成。用户可直接通过 Cerebras 使用，也可通过 AWS Marketplace、OpenRouter、Hugging Face 和 Vercel 等合作伙伴平台访问。所提供的来源未说明完整的模型目录，也未详细列出 API 和部署限制。
Cerebras Inference 能做什么？
OpenAI API 兼容性
据产品页面介绍，使用 OpenAI API 的现有应用只需修改两处代码即可适配 Cerebras。
低延迟模型执行
Cerebras 将该服务定位为可快速响应，并宣称在受支持的工作负载下性能最高可比 GPU 系统快 30 倍。
多种访问和计费路径
用户可以使用免费额度开始，采用按 token 计费的开发者方案，或联系 Cerebras 商讨企业生产环境方案。
企业生产环境选项
企业层级为高用量应用提供专属队列优先级、自定义模型权重、正常运行时间保障和专属支持。
合作伙伴分发
定价页面列出了 AWS Marketplace、OpenRouter、Hugging Face 和 Vercel 等访问渠道，为团队连接 Cerebras 推理服务提供更多方式。
使用场景
“实时 AI 应用”
构建用户能够获得快速模型响应的交互式产品，包括对话、语音或自动化体验。
“智能体工作流”
支持需要反复调用模型的应用，例如研究智能体和其他多步骤系统；在这类场景中，累计推理延迟十分重要。
“编程和开发者工具”
利用快速的模型执行能力，为需要频繁生成、分析或迭代的编程助手和软件工作流提供支持。
“研究与分析”
将推理应用于研究型助手，以及需要及时获得答案的文档或金融分析工作流。
“企业生产工作负载”
高用量应用的组织可以评估企业路径，以获得专属队列优先级、自定义权重、服务保障和支持。
常见问题
什么是 Cerebras Inference？
Cerebras Inference 是托管式 AI 推理云与 API，用于在应用中运行受支持的语言模型，重点提供低延迟响应。
现有的 OpenAI API 应用可以使用 Cerebras Inference 吗？
可以。Cerebras 表示，OpenAI API 兼容性让开发者只需修改两处代码即可基于该服务构建应用。所提供的来源未说明所有兼容的端点或参数。
如何试用 Cerebras Inference？
创建账户即可获得 5 美元免费额度，用于原型开发提示词、智能体和实时应用。根据产品页面，开发者层级随后采用按 token 计费，充值金额从 10 美元起。
Cerebras Inference 可以通过其他平台使用吗？
定价页面列出了 AWS Marketplace、OpenRouter、Hugging Face 和 Vercel 作为合作伙伴访问选项。具体工作流程和模型可用性可能因合作伙伴而异。
企业选项提供什么？
Cerebras 将企业访问描述为面向高用量应用的生产级推理，并提供专属队列优先级、自定义模型权重、正常运行时间保障和专属支持。
快速信息
- 类别
- AI 推理云与 API
- 主要用户
- 构建实时应用的开发者、AI 团队和企业
- API 兼容性
- 兼容 OpenAI API
- 性能声明
- 最高可比 GPU 系统快 30 倍
- 访问模式
- 免费试用额度、开发者按 token 计费和企业方案
- 合作伙伴访问
- AWS Marketplace、OpenRouter、Hugging Face 和 Vercel