Thinky 发布开源多模态模型 Inkling
Latent Space11 天前
Thinky 推出了新的模型家族 Inkling。这并不是一个宣称全面达到 SOTA 的模型,但从已披露信息看,它定位为一个能力扎实的美国开源权重基线模型。
核心信息
- Inkling 是一个混合专家(Mixture-of-Experts, MoE)Transformer 模型。
- 模型规模为 975B 总参数,其中 41B 为激活参数。
- 支持最高 100 万 token 的上下文窗口。
- 预训练数据规模为 45 万亿 token,覆盖文本、图像、音频和视频。
- Inkling 原生支持对文本、图像和音频进行推理。
- 模型通过可控的“思考强度”在成本与性能之间进行平衡。
同步发布 Inkling-Small
除主模型外,Thinky 还分享了 Inkling-Small 的预览版本。
Inkling-Small 是一个更轻量的模型,采用类似训练配方,拥有 12B 激活参数。它的目标是在更低成本和更低延迟下提供较强性能。
值得关注的点
Inkling 的发布重点不只是参数规模,也包括几个对开发者和研究社区有实际意义的方向:
-
开放权重
这使其更适合作为研究、评测和二次开发的基础模型。 -
多模态原生能力
训练数据覆盖文本、图像、音频和视频,模型也被描述为可原生处理文本、图像和音频推理任务。 -
超长上下文
最高 100 万 token 的上下文窗口,适合长文档分析、代码库理解、复杂检索增强生成等场景。 -
MoE 架构带来的成本控制
975B 总参数、41B 激活参数的设计,意味着推理时只激活部分专家,从而在模型容量和计算成本之间取得平衡。
小结
Inkling 是 Thinky 首个完整发布的 LLM 家族之一。根据已披露信息,它并未被定位为绝对最强模型,而是一个开放权重、支持多模态与长上下文、并强调成本可控的基础模型系列。对于关注开源大模型、多模态推理和长上下文应用的开发者来说,Inkling 值得继续跟进。
