第 2026-09-29 期 · 行业追踪 · 开源 · 研究

ESP32S3集群运行1.58-bit语言模型

ESP32S3集群运行1.58-bit语言模型

开发者用7块ESP32S3通过SPI菊花链搭建分布式推理集群,以1.58-bit量化运行0.5B语言模型,主节点负责分词与嵌入,其余节点分担注意力与MLP层。

Hacker News19 天前
查看原文 ↗