0.1B稀疏检索模型SPLADE在本地RAG中超越8B稠密嵌入模型
开发者实测发现,稀疏检索模型SPLADE在本地RAG任务中检索效果优于Qwen3-Embedding-0.6B稠密模型,且推理显存占用不到1.5GB,可在16GB内存的MacBook Air上稳定运行;稠密模型在同类设备上则因过热重启。作者使用支持英韩双语的KURE-sparse-nano,并发现SPLADE与稠密模型混合检索的效果反而更差。
AI 日报收录的 SPLADE 相关报道,共 1 篇,按时间倒序,每小时更新。
开发者实测发现,稀疏检索模型SPLADE在本地RAG任务中检索效果优于Qwen3-Embedding-0.6B稠密模型,且推理显存占用不到1.5GB,可在16GB内存的MacBook Air上稳定运行;稠密模型在同类设备上则因过热重启。作者使用支持英韩双语的KURE-sparse-nano,并发现SPLADE与稠密模型混合检索的效果反而更差。