Thinking Machines 首次釋出開放權重模型|Inkling 975B 參數,推理只啟用 41B
一句話總結
Thinking Machines發布975B參數開放權重模型Inkling,每個token啟用41B參數。
Thinking Machines 首次釋出開放權重模型|Inkling 975B 參數,推理只啟用 41B
Thinking Machines Lab 首次釋出從零訓練的開放權重 AI 模型。 7 月 15 日發布的 Inkling 是 975B 參數 multimodal Mixture-of-Experts transformer,每個 token 啟用 41B 參數,支援 1M tokens context。公司同時預覽 Inkling-Small,後者共有 276B 參數、啟用 12B。
Inkling 採 66 層 decoder,每個 token 從 256 個 routed experts 選用 6 個。Thinking Machines 稱,預訓練使用 45 兆個文字、圖像、音訊及影片 tokens,強化學習超過 3,000 萬次 rollout,訓練硬體為 NVIDIA GB300 NVL72。
模型可處理文字、圖像與音訊,並調節 thinking effort。公司自行公布:SWE-bench Verified 77.6%、AIME 2026 97.1%、MMMU Pro 73.5%,同時承認 Inkling 並非整體最強模型。
權重採 Apache 2.0 授權放上 Hugging Face。BF16 checkpoint 至少需要 2 TB VRAM;NVFP4 版本降至 600 GB,可由 4 張 NVIDIA B300 運行。Tinker 提供 64K 與 256K context 選項。
via MarkTechPost / Thinking Machines Lab / Inkling Model Card / Hugging Face
Thinking Machines Lab 首次釋出從零訓練的開放權重 AI 模型。 7 月 15 日發布的 Inkling 是 975B 參數 multimodal Mixture-of-Experts transformer,每個 token 啟用 41B 參數,支援 1M tokens context。公司同時預覽 Inkling-Small,後者共有 276B 參數、啟用 12B。
Inkling 採 66 層 decoder,每個 token 從 256 個 routed experts 選用 6 個。Thinking Machines 稱,預訓練使用 45 兆個文字、圖像、音訊及影片 tokens,強化學習超過 3,000 萬次 rollout,訓練硬體為 NVIDIA GB300 NVL72。
模型可處理文字、圖像與音訊,並調節 thinking effort。公司自行公布:SWE-bench Verified 77.6%、AIME 2026 97.1%、MMMU Pro 73.5%,同時承認 Inkling 並非整體最強模型。
權重採 Apache 2.0 授權放上 Hugging Face。BF16 checkpoint 至少需要 2 TB VRAM;NVFP4 版本降至 600 GB,可由 4 張 NVIDIA B300 運行。Tinker 提供 64K 與 256K context 選項。
via MarkTechPost / Thinking Machines Lab / Inkling Model Card / Hugging Face
