SambaNova Cloud

什么是 SambaNova Cloud？

SambaNova Cloud 是一个面向开发者的 AI 推理平台，帮助开发者使用托管的开源模型构建应用。其核心工作流是 OpenAI 兼容 API，可在 SambaNova 的 API 端点接收聊天补全请求。用户可以创建经过 bearer 身份验证的 API 密钥，将其保存在应用代码之外，并使用 cURL 或 Python 等工具发送请求。

该服务还提供浏览器在线体验场，用于尝试提示词和查看代码，并提供连接到 Gradio 的示例。其文档目录涵盖来自 DeepSeek、Meta、MiniMax、Google 和 OpenAI 模型系列的文本、推理以及部分支持视觉能力的模型。公布的定价基于输入和输出 token 用量，MiniMax-M3 另列有缓存输入价格。

SambaNova Cloud 能做什么？

OpenAI 兼容 API

使用熟悉的聊天补全模式进行构建，基础 URL 为 `https://api.sambanova.ai/v1`，并采用 bearer 密钥身份验证。

多种托管模型

模型目录列出了 DeepSeek-V3.1、DeepSeek-V3.2、Meta-Llama-3.3-70B-Instruct、MiniMax-M3、gemma-4-31B-it 和 gpt-oss-120b，并标注了文本、推理以及部分视觉能力标签。

流式请求

cURL 快速入门演示了将聊天补全请求中的 `stream` 设置为 true，让应用能够处理流式响应。

浏览器在线体验场

在线体验场提供模型选择和提示词测试流程，示例包括撰写电子邮件、规划旅行和编写代码。

Python 和 cURL 示例

开发者快速入门包含 cURL 请求和 Python 客户端示例，涵盖消息数组、模型选择、temperature 和 top-p 参数。

基于用量的定价

公布的定价表按模型区分缓存输入、输入和输出 token 费率；MiniMax-M3 是列出的唯一具有缓存输入费率的模型。

使用场景

“构建 AI 应用原型”

使用在线体验场测试提示词和模型行为，然后再将工作流实现在应用中。

“为开发者项目添加聊天补全”

使用 OpenAI 兼容端点，通过 cURL 或 Python 从应用后端发送系统消息和用户消息。

“构建流式界面”

以文档中的流式请求模式为起点，构建能够逐步处理聊天补全输出的界面。

“针对任务比较模型系列”

根据目录中展示的文本、推理或视觉需求，评估列出的 DeepSeek、Meta、MiniMax、Google 和 OpenAI 模型。

“创建快速 Gradio 演示”

提供 API 令牌后，使用 Gradio 示例加载模型并启动交互式演示。

常见问题

如何发起第一次请求？

在 SambaNova Cloud 控制台中创建 API 密钥，将其存储在 `SAMBANOVA_API_KEY` 等环境变量中，并使用 bearer 身份验证向 `https://api.sambanova.ai/v1/chat/completions` 发送请求。快速入门提供了 cURL 和 Python 示例。

API 使用哪种身份验证方式？

文档中的请求会在 `Authorization` 标头中使用 bearer API 密钥。网站建议不要将密钥放在源代码中，而是从环境变量中读取。

有哪些模型可用？

网站列出了 DeepSeek-V3.1、DeepSeek-V3.2、Meta-Llama-3.3-70B-Instruct、MiniMax-M3、gemma-4-31B-it 和 gpt-oss-120b。目录根据支持的任务标签（例如文本、推理或视觉）标识模型。

不编写完整应用也可以测试模型吗？

可以。SambaNova Cloud 提供带有模型选择器、提示词示例和“查看代码”选项的在线体验场。网站还提供用于加载模型的 Gradio 示例，可创建简单的交互式演示。

定价如何呈现？

公布的表格按模型展示缓存输入、每一百万 token 的输入和每一百万 token 的输出费率。所提供的来源未说明配额、套餐限制或其他计费条款。