YYaaa News

Thinking Machines首次发布开放权重模型|Inkling共975B参数,每次激活41B

一句话总结

Thinking Machines发布975B参数开放权重模型Inkling,每个token激活41B参数。

Thinking Machines Lab首次发布自行从零训练的开放权重AI模型。7月15日发布的Inkling是一款975B参数多模态Mixture-of-Experts transformer,每个token激活41B参数,支持最长1M tokens上下文。公司同时预览Inkling-Small,后者共有276B参数、激活12B。

Inkling采用66层decoder,每个token从256个routed experts中选用6个。Thinking Machines称,预训练使用45万亿个文字、图像、音频和视频tokens,强化学习超过3000万次rollout,训练硬件为NVIDIA GB300 NVL72。

模型可以处理文字、图像和音频,并调节thinking effort。公司自行公布:SWE-bench Verified 77.6%、AIME 2026 97.1%、MMMU Pro 73.5%,同时承认Inkling并非整体最强模型。

完整权重采用Apache 2.0许可证放上Hugging Face。BF16 checkpoint至少需要2 TB VRAM;NVFP4版本降至600 GB,可以由4张NVIDIA B300运行。Tinker提供64K和256K上下文选项。

via MarkTechPost / Thinking Machines Lab / Inkling Model Card / Hugging Face
Thinking Machines 首次釋出開放權重模型|Inkling 975B 參數,推理只啟用 41B