0.1B稀疏检索模型SPLADE在本地RAG中超越8B稠密嵌入模型

开发者实测发现，稀疏检索模型SPLADE在本地RAG任务中检索效果优于Qwen3-Embedding-0.6B稠密模型，且推理显存占用不到1.5GB，可在16GB内存的MacBook Air上稳定运行；稠密模型在同类设备上则因过热重启。作者使用支持英韩双语的KURE-sparse-nano，并发现SPLADE与稠密模型混合检索的效果反而更差。