有人在越狱PS5的GPU上以约20 tok/s运行Qwen 27B
Reddit r/LocalLLaMA用户发帖称,在越狱后的PS5 GPU上运行Qwen 27B模型,速度约为每秒20个token。该帖未提供更多细节,仅附链接,显示游戏主机硬件被用于本地大模型推理的非主流尝试。
AI 日报收录的 PS5 相关报道,共 1 篇,按时间倒序,每小时更新。
Reddit r/LocalLLaMA用户发帖称,在越狱后的PS5 GPU上运行Qwen 27B模型,速度约为每秒20个token。该帖未提供更多细节,仅附链接,显示游戏主机硬件被用于本地大模型推理的非主流尝试。