用户搭建MoE工作站,成本约为DGX Spark一半
一位用户分享混合专家(MoE)工作站配置:AMD EPYC 7452处理器、Gigabyte MZ32主板、32GB Radeon AI PRO R9700显卡与256GB内存。作者称其总价约为DGX Spark的一半,并计划用于Qwen4实验。
AMD 是一家设计 CPU 与 GPU 的半导体公司,产品线包括 EPYC 服务器处理器、Instinct 加速器和 ROCm 软件栈。近期报道集中在面向智能体 AI 的全栈平台发布,以及 EPYC 与 Radeon R9700 在本地推理中的实际使用,例如 AnythingLLM 改用 AMD 的 Lemonade SDK,4 块 R9700 的 1.8 万美元本地方案。AMD 还预计服务器 CPU 市场到 2030 年将超过 1200 亿美元。
一位用户分享混合专家(MoE)工作站配置:AMD EPYC 7452处理器、Gigabyte MZ32主板、32GB Radeon AI PRO R9700显卡与256GB内存。作者称其总价约为DGX Spark的一半,并计划用于Qwen4实验。
据r/LocalLLaMA社区帖子,AMD据称计划在11月再次提高Radeon GPU售价。帖子仅给出链接,未披露具体涨幅或涉及型号。
有IT供应商在eBay上挂牌出售退役AI超算,标价6000万美元,包含9600块Nvidia A100 GPU、4200颗AMD EPYC CPU,共300个机架,并提供免费配送。
据《华尔街日报》,英伟达将向Meta拟议的股票发行投资30亿美元,双方并扩大围绕Meta的AI产品Muse的合作。Meta计划用Vera Rubin系统和Vera CPU运行下一代AI智能体,并拟通过股票发行募资至多950亿美元用于AI基础设施。AMD和博通也表达了合计至多50亿美元的认购意向。
随着AI从回答问题转向自主执行任务,CPU需求上升。英伟达推出专为代理式AI设计的Vera Rubin平台及首款独立CPU,称其单核性能达x86架构CPU的1.5倍。AMD预计服务器CPU市场到2030年超1200亿美元,年增速超35%。
AI云公司Modal计划在英伟达Arm架构Vera CPU上运行其AI智能体沙箱产品,首次脱离x86。Modal自测显示,密集容器场景下Vera处理任务量最高为英特尔服务器的两倍,归因于高内存带宽;结果未经独立验证。该沙箱业务年收入3亿美元。
Llmspeed是一个开源工具,可让用户在购买硬件前估算本地大模型的实际运行速度。它覆盖RTX 4090、Mac Studio M5 Ultra、H100等数十种设备以及Qwen、Llama、DeepSeek等模型,部分数据来自社区实测,部分由规格推算。
Ark Invest的Cathie Wood表示,她避免投资传统内存芯片厂商,因为其业务周期波动最大,而更倾向于半导体领域周期性较弱的一端,如英伟达和AMD。她认为AI革命才刚刚开始。
AnythingLLM将后端从Ollama迁移到AMD的Lemonade嵌入式SDK和llama.cpp。此举反映出本地LLM推理工具链的整合,AMD开发者对此表示欢迎。
r/LocalLLaMA用户提议借助AI逆向工程CUDA,打造开源实现,以摆脱NVIDIA生态限制。该帖为社区讨论,尚无实际成果。
AMD 2025年营收346亿美元,其中数据中心业务166亿美元,同比增长32%。文章分析了AMD的两个内部AI用例:自动化芯片验证分类和加速客户订单查询。
一名用户分享为10人初创公司搭建的本地推理配置:总价1.8万美元,含Threadripper 9970X、128GB DDR5 ECC内存、4块AMD Radeon R9700 AI Pro(共128GB显存),通过Radiance分支服务Qwen 3.8等模型,在16路并发下预填充吞吐约6.3-6.8k tok/s,解码900 tok/s。
LemonSeed Studio是可在iPad上本地推理的编辑器,通过Thunderbolt外接AMD GPU并嵌入上游Linux amdgpu驱动。运行Qwen3.8-27B Q4(配DFlash2草稿)时,R9700在iPadOS上解码达158.5 tok/s,macOS为159.4 tok/s,远高于31.2 tok/s基线;Strix Halo在Linux上为64.4 tok/s。
特朗普总统宣布Nvidia、OpenAI、Anthropic等科技公司为联邦AI科研承诺24亿美元计算资源,其中Nvidia出资10亿。资金将把Genesis Mission扩展至14个联邦机构,用于能源、健康和太空研究,特朗普同时推动将AI改称“超级智能”。
AMD发布面向代理式AI的全栈计算平台,涵盖EPYC处理器、Instinct加速器、Pensando网络与ROCm软件。代理式AI将CPU与GPU配比从聊天机器人的1:4至1:8推向1:1甚至更高,并公布嵌入式和PC端多项合作。
Reddit的LocalLLaMA社区用户发帖讨论ROCm 10.1版本,称其着力突破数据搬运瓶颈。帖子未提供更多技术细节。
AMD CEO苏姿丰将于周三在韩国会见三星半导体业务负责人、副董事长Jun Young-hyun。此次会面发生在内存供应持续紧张、AI芯片供应链压力增大的背景下,双方均为AI芯片产业关键人物。
AMD首席执行官苏姿丰预计未来几年芯片需求将持续“极高”,即便行业面临AI安全担忧等挑战。她同时呼吁AI企业开展合作。
一名用户在LocalLLaMA发帖称,其AMD 7900 XTX加9800X3D配置本地运行Qwen模型,按当地0.25欧元/千瓦时的电价计算,一小时AI成本约0.12欧元。他据此提问:若按每百万token计算,使用前沿模型是否反而更便宜,还是自己的算法有误。
Framework 已开始接受其桌面 DIY 版预购,搭载 AMD Ryzen AI Max 400 系列处理器和 192GB 内存。该配置可能有利于运行本地大语言模型。
据r/LocalLLaMA帖子,AMD在Linux 7.4下为Radeon集成GPU带来AI/LLM性能提升,幅度约18%至23%。这有助于提升本地大模型在集成显卡上的运行效率。
彭博报道,AMD以82亿美元全股票交易收购李飞飞创办的World Labs,加码世界模型;同时Anthropic据报在IPO招股书中警告AI存在“人类生存风险”,并推出America.gov网站。
AMD新一代256核EPYC处理器配备16通道DDR5-12800内存,内存带宽达到RTX 5090的91%。该配置瞄准大模型本地推理场景,但内存套件价格预计极为高昂。
Reddit用户分享在4块AMD R9700显卡上运行qwen3.8-flash-next的测试结果,使用该模型的MXFP4-FP8量化版本进行多种智能体编程任务,速度与质量均超预期:单流生成超150 tokens/秒,预填充超1万 tokens/秒。
AMD同意以82亿美元全股票交易收购李飞飞创办的AI初创公司World Labs,以增强其AI能力。该交易预计年底前完成,尚待监管批准。
一名Reddit用户展示了自制的“2400cc推理赛车”:两块二手RTX 3090通过NVLink连接,由裸露的7840U ThinkPad主板驱动,用大众高尔夫散热器和约2.4升冷却液散热,PCIe走WWAN与SSD插槽并需修改BIOS。该机器运行Ubuntu,通过vLLM服务Qwen3.8-27B模型。
Motley Fool文章认为,台积电是AI热潮中少见的低风险高潜力标的。其Q2逻辑芯片代工市场份额达72.5%,几乎不可替代,且机器人、自动驾驶等后续AI应用将持续拉动先进芯片需求。
Motley Fool对比AMD与英特尔,指出过去一年AMD股价涨285%、英特尔涨322%,AI数据中心CPU需求推动增长。AMD称CPU与GPU比例正从1:4/1:8转向1:1,服务器CPU市场到2030年规模或达2200亿美元;目前英特尔占65.5%份额,AMD份额持续提升。
Timnit Gebru与Emily M. Bender撰文指出,企业有强烈商业动机夸大AI能力,近期关于黑客攻击、数学突破和自我改进超智能的宣传经专家审视后往往呈现不同面貌,呼吁公众和政策制定者保持怀疑。The Download还提到22国呼吁设立全球AI监管机构,但美中均未加入,得州暂停数据中心许可,AMD成为第12家市值破万亿美元公司。
据GameGPU报道,AMD下一代Radeon RX 10800 XT在4K游戏和本地AI任务中可能比NVIDIA RTX 5090快15%至25%,该消息由Reddit用户转发,尚无官方确认。