r/LocalLLaMA

25 篇报道

r/LocalLLaMA 是 Reddit 上讨论本地运行大语言模型的社区,内容涵盖硬件配置、开源模型和部署经验。近期帖子包括用户用旧 i7-4790K 加两块矿卡、共 30GB 显存、花费 250 美元搭建家用服务器,在 Qwen3 27B 上达到约 30 tokens/s;也有人拿到 1.9TB 内存并考虑运行 Bonsai 2。此外还有关于 Gemma 4 开发者智能体竞赛、AI 算力价格上涨、云端与自托管路线之争的讨论,以及 Linux 创始人称某些反 AI 规则“愚蠢”的发言。

相关话题

本地AI的未来:云端还是自托管?

Reddit用户forevergeeks在r/LocalLLaMA发帖讨论AI部署的未来轨迹:会像早期桌面和服务器那样以本地托管为主,还是像云计算兴起后大部分迁移到云端,还是相当一部分市场因特定原因选择自托管AI。

r/LocalLLaMA ·

Reddit:GPU贫穷终结者

Reddit用户发帖配图表示“我不再GPU贫穷”,为个人升级显卡或挖矿等趣味性分享,帖文来源为r/LocalLLaMA。信息主要为用户自述与配图展示,无更多技术或商业细节。

r/LocalLLaMA ·
已经到底了