PrismML发布1-Bit Bonsai系列模型,这是全球首款实现商业化的1-bit权重大模型。
- 1-Bit Bonsai 8B仅需1.15GB内存,体积比全精度8B模型小14倍,运行速度快8倍,能效提升5倍
- 1-Bit Bonsai 4B仅需0.57GB内存,在M4 Pro上可达132 tokens/秒
- 1-Bit Bonsai 1.7B仅需0.24GB内存,在iPhone 17 Pro Max上可达130 tokens/秒
- 该系列专为机器人技术、实时Agent和边缘计算场景设计
- 在基准测试中,该模型性能与领先的8B模型相当,但实现了超过10倍的智能密度提升
原文链接:https://prismml.com/
🕐 发布于: 2026年04月01日 18:01
发表回复