jitllm推理引擎实现回复中跨GPU迁移模型层，暂停仅8毫秒

开源推理引擎jitllm可在生成回复中途把Llama-3.2-3B所有层在两块T4间迁移，暂停仅8.1毫秒，KV缓存随层分页移动，提示词无需重新预填充，输出与未迁移时一致；V100上约20毫秒，笔记本跨CUDA与Vulkan约91毫秒。

• 帖文：2030年家用GPU集群或如持枪自卫般常见2026-10-12
• 社区讨论：还有便宜好用的GPU吗2026-09-26
• 用户将六块V100 GPU装入标准机箱搭建服务器2026-09-18