Cactus发布Whistle:16.9MB语音识别模型
Cactus Compute推出开源语音识别模型Whistle,仅5500万参数(激活3600万),CQ2bit量化后文件仅16.9MB,支持七种语言并覆盖17个平台。其在LibriSpeech test-clean上WER为4.31,优于145.3MB的Whisper base(4.9),旨在将AI压缩至廉价手机、可穿戴设备等小终端。
AI 日报收录的 Cactus Compute 相关报道,共 2 篇,按时间倒序,每小时更新。
Cactus Compute推出开源语音识别模型Whistle,仅5500万参数(激活3600万),CQ2bit量化后文件仅16.9MB,支持七种语言并覆盖17个平台。其在LibriSpeech test-clean上WER为4.31,优于145.3MB的Whisper base(4.9),旨在将AI压缩至廉价手机、可穿戴设备等小终端。
Cactus Compute 开源了 Needle 3,一款面向自动化的微型基础模型(121M 参数),在设备端离线运行。模型在3600亿 tokens 上训练,使用 Simple Attention / Hadamard MLP 设计并将 70.8M 参数以“engram”形式存储,算力约 100 MFLOPs/标记。针对工具调用任务(Mobile Actions)得分86.0,超越多款体量远大的模型,并已上 Hugging Face、GitHub、PyPI 并提供浏览器沙箱体验。