llama.cpp在越狱PS5上原生运行GGUF模型
PS5LM项目利用llama.cpp的Vulkan后端,在越狱PS5的RDNA 2 GPU上运行GGUF模型,并作为本地服务器提供OpenAI和Anthropic兼容API。
AI 日报收录的 PS5LM 相关报道,共 1 篇,按时间倒序,每小时更新。
PS5LM项目利用llama.cpp的Vulkan后端,在越狱PS5的RDNA 2 GPU上运行GGUF模型,并作为本地服务器提供OpenAI和Anthropic兼容API。