Valet

开源项目Valet：用本地大模型管理家庭实验室

开发者发布开源仪表盘Valet，内置聊天代理，可对接本地或云端模型，集成185项以上服务并支持自定义插件。作者在RTX 5090上运行Qwen 27B模型，约230 tok/s；通过隐藏未用工具、关闭思考模式和懒加载工具，每次回答token数减少30%–50%。项目无账户与遥测，默认只读。