📰 PrismML推出全球首个商业化1-bit大模型Bonsai

PrismML发布1-Bit Bonsai系列模型，声称是全球首个可商业化的1-bit权重大模型。

– Bonsai 8B仅需1.15GB内存，模型体积比全精度8B模型小14倍
– 推理速度提升8倍，能效提升5倍，同时在基准测试中与领先的全精度8B模型持平
– Bonsai 4B在M4 Pro上可达132 tokens/秒
– Bonsai 1.7B在iPhone 17 Pro Max上可达130 tokens/秒，仅占用0.24GB内存
– 该系列专为机器人、实时代理和边缘计算设计
– 公司声称实现了全精度8B模型10倍以上的智能密度

原文链接：https://prismml.com/

🕐 发布于: 2026年04月01日 12:01