多模态输入支持
Inkling 是一个多模态自回归 Transformer，支持文本、图像和音频输入，同时生成文本输出。模型卡称其面向英语及其他语言，也支持多种代码语言。
Inkling
认领Inkling 是 Thinking Machines Lab 的开源权重多模态基础模型，支持文本、图像和音频输入，生成文本输出，并可在 Tinker 上微调用于下游应用。
概述
Inkling 是 Thinking Machines Lab 的开源权重多模态模型。它被定位为通用基础模型，支持文本、图像和音频输入，并生成文本输出，同时支持英语、其他语言以及多种编程语言。
模型卡将 Inkling 描述为一款 66 层、仅解码器的 Transformer，采用稀疏 Mixture-of-Experts 路由，拥有 975B 个总参数、41B 个激活参数，以及最多 1M tokens 的上下文窗口。Thinking Machines 将其定位为面向开发者的可定制基础模型，可用于构建对话系统、智能体工作流、编码工具和检索增强应用。
Inkling 以 Apache 2.0 许可证下的开源权重形式发布，可通过 Hugging Face 获取，并可在 Tinker 上微调。发布材料还提到同系列中更轻量的 Inkling-Small 预览版，但源页面重点强调的是 Inkling 这一主发布版本。
功能
稀疏 MoE 架构
该模型采用稀疏 Mixture-of-Experts 架构，总参数量为 975B，激活参数为 41B。根据模型卡，每个 token 会路由到 256 个专家中的 6 个，再加 2 个共享专家。
长上下文处理
Inkling 支持最多 1M tokens 的上下文窗口，使其适合长文档和长对话工作流。
可控推理开销
发布文章称，Inkling 通过可控的思考开销在成本与性能之间取得平衡。这使它成为一款可根据任务采用不同推理强度的基础模型。
通过 Tinker 微调
Inkling 可在 Tinker 上进行微调，而 Tinker 产品页将训练描述为四个函数：forward_backward、optim_step、sample 和 save_state。
多种访问方式
模型卡称权重可通过 Hugging Face 获取，同时模型也可通过 Tinker 和第三方推理提供商访问。
使用场景
多模态助手
开发者可以构建聊天机器人或助手类产品，这类产品需要同时响应文本提示，并在同一会话中解读图像或音频。
开发者应用
从事代码副驾、工具使用型智能体或检索增强系统的团队，可以将 Inkling 作为通用基础模型，用于后续调优和集成。
模型定制
研究人员和产品团队可以在 Tinker 上对开源权重进行微调，使模型适配特定行为或工作流，例如自定义回复风格或领域任务。
长上下文工作流
必须处理长文档、长对话或跨多轮扩展上下文的应用，可以利用该模型的 1M-token 上下文窗口。
部署规划
评估开源权重部署选项的组织，可以使用模型卡中的检查点和硬件指南，在自有系统上或通过受支持的提供商规划推理部署。
Pros and Cons
Pros
- 支持在同一个通用模型中同时接收文本、图像和音频输入。
- 开源权重和 Apache 2.0 许可使该模型可用于研究和下游定制。
- 最长 1M tokens 的上下文支持扩展了其在长文档和智能体工作流中的用途。
- Tinker 提供了有文档记录的微调路径，包括用于训练和恢复的基础 API 工作流。
- 模型卡给出了具体的部署指导，包括检查点格式和硬件要求。
Cons
- 源材料未包含定价详情，因此从提供的公开页面无法看出商业结构。
- 在本地运行 BF16 检查点需要大量硬件；模型卡称该格式至少需要 2 TB 的聚合 VRAM。
FAQ
Inkling 如何分发？
Inkling 作为开源权重模型提供，权重可通过 Hugging Face 获取，同时也可通过 Tinker 和第三方推理提供商访问。公告和模型卡表明，它面向下游开发者，而不是面向消费者的聊天应用。
Inkling 可以接受什么输入并输出什么？
模型卡说明 Inkling 接受文本、图像和音频输入，并生成文本输出。它面向通用对话、指令遵循、编码、智能体工作流以及检索增强生成系统。
Inkling 的微调如何工作？
Tinker 是用于微调 Inkling 的训练 API。模型卡说明 Inkling 可在 Tinker 上进行微调，发布文章还描述了使用 Tinker 编写、运行并评估一个自我微调任务，然后更新活动权重。
Inkling 的核心模型特性是什么？
模型卡将 Inkling 描述为一款 66 层、仅解码器的 Transformer，采用稀疏 Mixture-of-Experts 路由。它共有 975B 个参数，41B 个激活参数，并支持最多 1M tokens 的上下文窗口。
Inkling 或 Tinker 有公开的定价信息吗？
源材料未提供定价信息。定价网址当前返回 404 页面未找到。
Quick Facts
- 类别
- 开源权重多模态模型
- 提供方
- Thinking Machines Lab, Inc.
- 发布日期
- 2026年7月15日
- 许可证
- Apache 2.0
- 输入
- 文本、图像、音频
- 输出
- 文本