12GB显存笔记本本地跑Qwen3.8模型达51t/s
用户测试显示,Strata推理引擎搭配ISTA-DASLab的Qwen3.8-Flash-Next量化版,在12GB显存、64GB内存笔记本上实现51 t/s生成和1500 t/s提示处理,远超原版llama.cpp。该引擎目前仅支持Nvidia及特定GGUF模型。
仅显示 2026年9月30日 周三 的内容 · 查看全部日期 →
用户测试显示,Strata推理引擎搭配ISTA-DASLab的Qwen3.8-Flash-Next量化版,在12GB显存、64GB内存笔记本上实现51 t/s生成和1500 t/s提示处理,远超原版llama.cpp。该引擎目前仅支持Nvidia及特定GGUF模型。
美国公司PaleBlueDot AI正与潜在贷款方洽谈6亿美元私人信贷,用于为其韩国站点采购芯片,参与方包括Brookfield Asset Management。
开发者发布PSSA,一个完全用Rust从零编写的非Transformer语言模型,采用循环状态空间层、情节记忆库并可在运行中改写部分权重。作者称同等参数下学习更快,CPU生成速度约快12倍。
肯塔基州州长贝希尔表示,人工智能需要联邦层面的监管。
纽约市审计长Mark Levin发布报告称,人工智能可能让数千名纽约市员工失业,并对薪资、养老金和华尔街利润产生广泛影响。他呼吁市政府采取建立数十亿美元财政缓冲等紧急措施,以应对不确定性。
数学界提出建议,认为AI生成的数学论证应由人类作者理解并负责,反对前沿实验室在专有模型上测试高等数学问题。社区已收到600多条回复。
受 AI 企业估值过高与资本开支难以兑现的担忧影响,7 月中国科技硬件股大幅抛售,本季度或创下最差季度表现,显示此前由 AI 驱动的上涨行情正在瓦解。
文章指出生成式AI被用于制作未成年人色情图像,威斯康星州联邦上诉法院8月25日裁定,若不描绘真实儿童且仅在私人住所持有,此类AI生成CSAM受第一修正案保护,案件涉及用Stable Diffusion生成逾1.3万张图像。
AWS宣布在首尔和新加坡的Amazon Bedrock上提供Anthropic模型,支持区域内推理,让当地客户可在本地处理数据。
有投稿者在9月30日仍未收到NeurIPS研讨会的评审通知,反映通知延迟问题,讨论热度较低。
Hugging Face推出Open TTS Leaderboard,用客观指标评估多语言文本转语音与语音克隆模型,以弥补现有竞技场式排行榜难以跟上开源模型发布速度的问题。截至2026年9月30日,平台已有超8000个TTS模型,但Artificial Analysis的92个模型中仅16个为开放权重。
达拉斯在垃圾收集卡车上安装AI摄像头,自4月以来已为约2.1万处房产拍摄并评定“衰败分”,引发隐私和针对低收入社区的担忧。市议员Chad West提议停止资助这份三年250万美元的合同。
社区梳理音频模型架构发现,32个音频模型家族采用Qwen系列架构,其中20个使用Qwen3。Qwen骨干已覆盖语音合成、语音识别、音乐生成及语音到语音等多种任务。
据r/LocalLLaMA帖子,AMD在Linux 7.4下为Radeon集成GPU带来AI/LLM性能提升,幅度约18%至23%。这有助于提升本地大模型在集成显卡上的运行效率。
纽约州长 Hochul 召集 IBM、摩根大通等企业高管讨论AI对就业的冲击,重点是如何帮助被替代员工提升技能,并计划年底前提交政策建议。会上提到该州九分之一岗位属易受冲击的后台或文书类工作。
德勤英国业务去年将股权合伙人平均薪酬提高至约113万英镑(150万美元),较上年增长7%,主因是人工智能咨询需求推动了利润增长。
Hacker News 讨论帖探讨如何让借助 AI 氛围编程(vibe coding)搭建的网站呈现出专业设计师的视觉效果,说明提示词技巧与 AI 编码工具已能让非设计背景的人产出观感不错的页面。
特朗普在白宫会晤黄仁勋、扎克伯格、Dario Amodei、贝索斯等科技高管,众议院议长约翰逊重申不急于监管AI,参议院也未审议民主党支持的监管法案;白宫随后发布由总统与高管签署的《前沿责任联合承诺》,称各公司自行负责安全开发,未来或考虑立法。
据路透社独家报道,Anthropic表示行为失控的AI代理可能给公司带来难以确定的法律风险。报道未披露更多细节。
Hacker News讨论称,对Palantir AI的过度依赖可能导致了美军轰炸伊朗学校,评论者认为人们因停止思考而盲从AI机器。
一名研究者因算力受限,在CVPR投稿前纠结:是换随机种子重跑实验以报告均值±标准差,还是直接利用现有单次结果专注写作。研究者计划随投稿公开代码,并相信结果可复现,正征求社区意见。
有申请者讨论NeurIPS教育赛道的评审进展,称结果很快将公布,但目前尚无官方确认信息。
Sebastian Raschka发表视觉指南文章,梳理从词袋、RNN、CNN、Transformer到Jev式API与校准的文本分类技术演进,认为近期发布的Jev模型本质是分类器,但比通用大模型更快更便宜、比专用分类器更通用,文章不构成产品背书。
作者发布免费开源书籍《How to Make Your Model Fast》,主张减少FLOPs不等于加速,需先判断系统受限于计算、带宽、内存还是系统,内容覆盖roofline分析、内核、编译、量化、剪枝、端侧LLM、机器人、推理服务与智能体。
一名澳大利亚二线院校本科生在末年级以第一作者身份被NeurIPS 2026接收论文,现纠结是留本校读博(有政府合作企业奖学金)还是等一年申请美国或英国前15-25名校,目标是进入DeepMind或Meta等做研究员。
Reddit用户发起讨论,探讨人工智能是否已实现盈利。
作者提出CoWindow Attention(将远端上下文按互补窗口分配到各KV头,无需学习路由器)和MassAlloc Attention(利用softmax统计决定是否执行后续计算)。在8张H100、128K上下文下,注意力算子前向/反向/解码分别最高提速7.4x/8.6x/3.0x,14B模型32K训练FLOPs减少28.5%和23.1%,能力与FullAttn相当。