27B 模型首次装进 iPhone｜11 tok/s 只是演示，Apple 仍在早期评估
一句话总结
Bonsai 27B 在 iPhone 17 Pro 演示约 11 tok/s；Apple 只处于早期评估。
PrismML 宣称首次把 27B 级 AI 模型完整装进手机，Bonsai 27B 在 iPhone 17 Pro 演示中显示约 11 tok/s。这是公司展示，不是 Apple 采用公告，也不是覆盖数百万部手机的量产测试。
Bonsai 以 Qwen3.6 27B 为基础。1-bit 版本把约 54 GB 的 FP16 模型压缩到 3.9 GB、每个权重 1.125 effective bits；ternary 版为 5.9 GB。PrismML 称 1-bit 版在 15 项 benchmark 中保留原版 90%，支持 262K context。
CEO Babak Hassibi 告诉 CNBC，Apple 与其他公司正在测量速度、能耗及设备表现，洽谈仍处于很早阶段。Apple 没有回应。Hassibi 称 270 亿参数可在 iPhone 15 或更新机型运行；11 tok/s 演示用的是 iPhone 17 Pro，两者不是同一项硬件验证。
PrismML 公布 1-bit 版总分 76.1，低于原版 85.0。模型也可在英伟达 GPU 上通过 CUDA 运行，但手机续航、多任务处理与可靠性仍无第三方数据。Apple 没有公布合同、集成产品或上线日期。
via 9to5Mac / PrismML / CNBC
Bonsai 以 Qwen3.6 27B 为基础。1-bit 版本把约 54 GB 的 FP16 模型压缩到 3.9 GB、每个权重 1.125 effective bits；ternary 版为 5.9 GB。PrismML 称 1-bit 版在 15 项 benchmark 中保留原版 90%，支持 262K context。
CEO Babak Hassibi 告诉 CNBC，Apple 与其他公司正在测量速度、能耗及设备表现，洽谈仍处于很早阶段。Apple 没有回应。Hassibi 称 270 亿参数可在 iPhone 15 或更新机型运行；11 tok/s 演示用的是 iPhone 17 Pro，两者不是同一项硬件验证。
PrismML 公布 1-bit 版总分 76.1，低于原版 85.0。模型也可在英伟达 GPU 上通过 CUDA 运行，但手机续航、多任务处理与可靠性仍无第三方数据。Apple 没有公布合同、集成产品或上线日期。
via 9to5Mac / PrismML / CNBC
