PrismML为高通智能眼镜推出微型LLM
PrismML在高通骁龙峰会上展示了1-bit Bonsai LLM,这是一个20亿参数的视觉语言模型,可在搭载骁龙AR1 Gen 1平台的智能眼镜上本地运行。该模型将大型模型缩小4倍,同时保持基准性能,旨在推动设备端开源AI。目前尚无搭载该模型的智能眼镜发布。
AI 日报收录的 Ion Stoica 相关报道,共 2 篇,按时间倒序,每小时更新。
PrismML在高通骁龙峰会上展示了1-bit Bonsai LLM,这是一个20亿参数的视觉语言模型,可在搭载骁龙AR1 Gen 1平台的智能眼镜上本地运行。该模型将大型模型缩小4倍,同时保持基准性能,旨在推动设备端开源AI。目前尚无搭载该模型的智能眼镜发布。
PrismML 发布 Bonsai 2 27B,将阿里开源模型 Qwen3.8 27B 压缩到 5.9GB、内存减少约 9–10 倍并保持约 98% 基准性能;公司由 Caltech 研究人员创立,已获 $22.25 million 的种子轮支持并获得 Khosla Ventures 等投资。