开发者求助:BiRefNet难以部署到高通移动芯片
一位开发者在社区求助,希望将BiRefNet分割模型部署到高通移动GPU和NPU并实现亚秒级延迟,但因其可变形卷积对芯片较复杂,编译到NPU均告失败,询问是否有人有成功经验。
Qualcomm 是一家设计无线通信与 AI 处理器的芯片公司,产品用于智能手机、数据中心和智能眼镜等设备。近期报道集中在其 Snapdragon 8 Elite Gen 6 与 Extreme Gen 6 芯片上,后者可在本地运行 300 亿参数的 MoE 模型;此外还有与 AWS 合作定制 AI 推理芯片、与华为签署 LogicFolding 专利许可,以及 CEO 预计到 2028 年手机可运行 1000 亿参数模型。
一位开发者在社区求助,希望将BiRefNet分割模型部署到高通移动GPU和NPU并实现亚秒级延迟,但因其可变形卷积对芯片较复杂,编译到NPU均告失败,询问是否有人有成功经验。
高通首席营销官Don McGuire与Raja Rajamannar对谈,讨论在AI进入日常设备之际,如何将隐形的基础设施转化为消费者品牌。
字节跳动接近达成协议,将向联发科采购数据中心半导体。此举可为TikTok母公司锁定关键零部件,同时帮助这家台湾芯片厂商与高通竞争。
高通CEO透露,AI公司希望到2028年手机能持续运行1000亿参数规模的模型。
文章对比ASML与高通:ASML独家供应极紫外光刻机,2025财年营收366亿美元、净利润108亿美元、自由现金流124亿美元;高通则设计智能手机和数据中心用的无线与AI处理器。
Mecka AI完成6000万美元B轮融资,由红杉资本领投,英伟达、微软M12和高通参投。公司致力于让机器人理解并操作物理世界,CEO Josh Gao称物理AI扩展需在传感器、基础设施和真实数据采集上大举投入。
高通同意授权华为LogicFolding芯片制造技术相关专利,被视为华为推动AI技术进军海外市场的利好。
一周消费科技动态:Meta推出Muse与智能眼镜;中美领导人会晤时就AI治理表态,强调AI应“处于人类控制之下”;高通发布骁龙8 Elite Gen 6系列,特朗普将与科技高管会面讨论AI监管。
PrismML在高通骁龙峰会上展示了1-bit Bonsai LLM,这是一个20亿参数的视觉语言模型,可在搭载骁龙AR1 Gen 1平台的智能眼镜上本地运行。该模型将大型模型缩小4倍,同时保持基准性能,旨在推动设备端开源AI。目前尚无搭载该模型的智能眼镜发布。
高通在骁龙峰会上发布骁龙8 Elite Gen 6与Extreme Gen 6,聚焦端侧AI。Extreme版可本地运行300亿参数MoE模型,芯片还支持最高2亿参数感知模型、8K 60fps视频和APV编码,摩托罗拉Signature 27将首发搭载。
摩托利·富尔指出高通可能被市场低估,公司与亚马逊达成合作,可能向亚马逊出售多达600亿美元的AI芯片,并已向亚马逊授予可购4亿美元股票的认股权证。高通市值接近2000亿美元,今年迄今仅涨约6%。
高通为AWS多代产品定制聚焦推理的AI芯片,AWS用高通芯片做AI推理,高通则用AWS Bedrock协助芯片设计。