Needle 3

Cactus 发布针式小型自动化模型 Needle 3

Cactus Compute 开源了 Needle 3，一款面向自动化的微型基础模型（121M 参数），在设备端离线运行。模型在3600亿 tokens 上训练，使用 Simple Attention / Hadamard MLP 设计并将 70.8M 参数以“engram”形式存储，算力约 100 MFLOPs/标记。针对工具调用任务（Mobile Actions）得分86.0，超越多款体量远大的模型，并已上 Hugging Face、GitHub、PyPI 并提供浏览器沙箱体验。