MiniMax (official)@MiniMax_AI
MiniMax M3.1 Flash,现在能跑在你更多的硬件上了。 对一个 428B 模型进行量化,开辟了更多在本地运行它的方式。更低比特的权重减少了加载模型所需的内存,以及解码过程中搬运的权重数据。要让这些节省真正有用,需要仔细的校准、高效的低比特内核,以及在 GPU 和系统内存之间对专家进行硬件感知的放置。 感谢做这项工作的开发者们: • @UnslothAI @danielhanchen —— 2-bit 动态 GGUF 权重,143.9 GB,并在编码、工具调用及其他工作负载上进行了校准和保真度测试。 •…