A.I. 日报
GPU内核开发环境搭建实用要点
一篇r/MachineLearning帖子汇总了GPU内核开发环境搭建中常被忽视的问题：CUDA 13已放弃Maxwell、Pascal和Volta架构，需按计算能力选装工具链；PyTorch自带CUDA运行时，不能说明nvcc可用；GPU启动为异步，需预热、同步并用CUDA事件计时，否则测的是入队时间。
CUDA
7 篇报道CUDA 是 NVIDIA 的 GPU 并行计算平台与编程接口，广泛应用于深度学习训练与内核开发。近期相关讨论集中在内核工程实践上：有人整理 CUDA 13 不再支持 Maxwell、Pascal、Volta 后的环境配置问题，也有开发者发布从 GEMM 讲到 FlashAttention 的 44 集免费 GPU 内核课程；此外还有用 LangGraph 驱动 AI 代理优化 CUDA 内核、以及提议用 AI 逆向实现开源 CUDA 的社区讨论。
相关话题
- NVIDIA4
- PyTorch3
- CUTLASS1
- DeepSeek1
- FlashAttention1
- Triton1
- Adobe1
- Microsoft1
- Nemotron 3.5 Bolt 74B1
- RTX Spark1
- AMD1
- minGPT1
开源GPU内核工程系列课程发布，覆盖GEMM到FlashAttention
一名开发者推出44节免费GPU内核工程视频系列，从朴素GEMM讲到FlashAttention，并覆盖H100与Blackwell架构、TMA、WGMMA、CUTLASS、FP8/NVFP4等主题，代码公开，目前仍在制作中。
英伟达RTX Spark将上市，PC应用生态就绪
英伟达与微软宣布RTX Spark笔记本将于10月16日上市，该超级芯片最高配备128GB统一内存和1千万亿次AI算力。上市时将有数千款应用、游戏与模型支持，亮点包括10月15日发布的Nemotron 3.5 Bolt 74B智能体模型、Adobe应用最高2倍性能提升以及DLSS光线重建。
社区讨论用AI逆向工程CUDA
r/LocalLLaMA用户提议借助AI逆向工程CUDA，打造开源实现，以摆脱NVIDIA生态限制。该帖为社区讨论，尚无实际成果。
开源TurboGPT：13秒训练22KiB微型GPT
受minGPT启发的开源项目TurboGPT发布，可用CUDA C++在13秒内训练一个22KiB的字节级微型GPT，采用MIT许可。项目需CUDA 13.4且构建脚本仅支持Windows，在hn1g数据集上训练15亿token后达到2.5295 BPB。
项目用代理式AI优化CUDA内核
开发者基于LangGraph构建了C++ CUDA测试框架，让AI代理运行内核、获取基准测试并借助Nsight分析性能。该项目展示了代理式AI在GPU内核优化中的潜力。
本地 LLM 爱好者：别被 FOMO 和硬件吹风卷走
劝诫本地LLM爱好者别被FOMO推动过度花费：通过API或小模型也能学很多，建议以经济与学习友好的节奏入门，切勿盲目购置高端硬件。
已经到底了