Ternary Bonsai 2 系列模型发布,2B 版可在浏览器本地运行
Prism ML 在 Hugging Face 发布 Ternary Bonsai 2 系列小模型(2B、4B、9B)。其中 2B 借助自定义 WebGPU 内核可在浏览器内完全本地运行,在 M4 Max 上速度最高约 500 tok/s,并已提供 WebGPU 演示。
AI 日报收录的 Ternary Bonsai 2 相关报道,共 2 篇,按时间倒序,每小时更新。
Prism ML 在 Hugging Face 发布 Ternary Bonsai 2 系列小模型(2B、4B、9B)。其中 2B 借助自定义 WebGPU 内核可在浏览器内完全本地运行,在 M4 Max 上速度最高约 500 tok/s,并已提供 WebGPU 演示。
社区发布的Ternary Bonsai 2基于Qwen3.8-27B,保持27B混合注意力结构并采用三值权重将模型体积缩至小于6GB,模型卡称比FP16小9倍、保留98.2%智能,并已在Hugging Face和WebGPU上有演示与合集。