DiffusionGemma:从零用PyTorch实现并行文本生成
有研究者分享DiffusionGemma项目,介绍扩散语言模型如何并行生成文本,并从零用PyTorch实现,属于探索非自回归文本生成路径的技术分享。
AI 日报收录的 DiffusionGemma 相关报道,共 2 篇,按时间倒序,每小时更新。
有研究者分享DiffusionGemma项目,介绍扩散语言模型如何并行生成文本,并从零用PyTorch实现,属于探索非自回归文本生成路径的技术分享。
OpenUI 发布了基于 DiffusionGemma 微调的 OUI-1,训练数据使用自有 DSL OpenUI‑Lang 而非 HTML/Markdown/React。作者指出通过系统提示让通用大模型输出 OpenUI‑Lang 可行但占用大量上下文,微调能节省空间;同时担心模型会倾向默认输出 DSL。DiffusionGemma 目前不被 llama.cpp 支持,Ollama 无法运行,但权重已上传到 Hugging Face,用户在 RTX 5090 等消费级 GPU 本地部署上存在不确定性。