社区音量

39 条

仅显示 2026年9月11日 周五 的内容 · 查看全部日期 →

Dwarkesh Patel@dwarkesh_sp
449 赞 · 28 转发 ·
新一集与 @johnschulman2、@oneill_c 和 @BerenMillidge。 我和我认识的一些最有洞见、且在相对开放公司的 AI 研究者聚在一起,因为我想听听在前沿实际上发生的细节,以及接下来会发生什么。 0:00:00 – 为反对 RSI 的论点做最强辩护 0:18:39 – 推动中国实验室进展的原因 0:28:06 – 自动化 AI 研究者将如何被训练 0:33:51 – 长远视角的 RL 会引出 AGI 吗? 0:45:24 – 仿真到现实的鸿沟 1:00:33 – 有多少进展可以用数据来…
阑夕@foxshuo
203 赞 · 26 转发 ·
锐评一下Anthropic今天发布报告里关于蒸馏指控的部分,尽量讲真话。 蒸馏模型这个事情,分为事实判断和价值判断两个部分。 在事实判断部分,国产模型的态度,基本看不到明确否认的,这个很容易理解,因为它是真的会留下客观证据,从业者没必要为了一份工作,搭上自己一辈子的职业信誉。 主流的解释口径,在于价值判断,就是让教师模型言传身教这件事情本身,作为行业普遍的学习手段,是没问题的,所谓的禁止蒸馏,只不过是公司的用户协议,而无法上升到法律层面。 再说了,前沿模型在训练时,也一定从互联网上抓取了你我的生产内容,你我这样的…
Boris Cherny@bcherny
203 赞 · 24 转发 ·
最新的 Threat Intelligence 报告绝对令人恐惧且非常重要,值得一读。 随着模型变得更智能,如果没有正确的保障和监控,它们也会变得更危险。许多能力具有双重用途:一个擅长编程的模型可以被用来攻击关键基础设施;一个辅助生物研究的模型也可以被用来设计下一次大流行病。 这些问题复杂、棘手,并且越来越重要,所有人都应当理解,以便世界能够权衡并应对快速升级的风险。 {"likes":203,"reposts":24,"comments":44,"views":18372}
Gorden Sun@Gorden_Sun
202 赞 · 4 转发 ·
这篇文章信息量非常大,值得争论和吐槽的点也非常多。有一个隐藏信息,豆包真的没蒸馏,豆包Seed 2.1 Pro做到Opus 4.6的水平是实打实的。 [引用 @AnthropicAI]: 我们发布了迄今为止最详细的威胁情报报告。 报告涵盖了人们如何试图滥用 Claude——用于网络攻击、影响行动、监视、生物学和制造武器——以及我们如何发现并阻止这些行为。 我们破坏了报告中提到的每一次行动,并利用从中得到的教训来强化我们的防护措施。在适当情况下,我们也将所发现的内容与相关机构分享…
hardmaru@hardmaru
205 赞 · 24 转发 ·
推出 Fugu Max 和 Fugu Ultra v2:编排帕累托前沿 过去十年,AI 行业一直在沿着单一轴优化:打造更大、更昂贵的模型。但智能从不是单一体。它是一个集体、分布式的系统。人类本身就是一种集体智能。 我们基于这一信念构建了 Sakana Fugu:最强大的 AI 系统不会是孤立的巨人,而是学会协同的生态系统。进化在约束下创新,未来属于那些不仅知道如何解决问题,还知道应部署哪些机制以实现最低成本的系统。 今天我们发布 Fugu Max 和 Fugu Ultra v2。 Fugu Max 将帕累托前沿向…
Alexandr Wang@alexandr_wang
231 赞 · 13 转发 ·
我们的 Muse 安全架构在何时让代理请求人工介入审批方面提供了大量控制。 更多请看大神 @bigT_sheesh 的说明: [引用 @bigT_sheesh]: 在我本周早些时候发布的关于 @Muse 安全架构的博文和视频( Sentinel 和 Human-in-the-loop。 这不仅扩展到常规的网页请求和协议(HTTP/HTTPS),你实际上可以使用大量基于 TCP/UDP 的协议。 在这个页面查看它们(网页 )路径为:Settings > Permissions > Direct n…
Elon Musk@elonmusk
1.5k 赞 · 283 转发 ·
Grok @Bot 对 SpaceX CFO 讲话的摘要 [引用 @cb_doge]: Grok Bot 对 SpaceX 财务总监 Bret Johnsen 在 Goldman Sachs Communacopia 今天的摘要。 垂直整合 垂直整合是公司的核心运营模式,不是一个旁支策略。 - 火箭:拥有金属 → 发动机 → 航电 → 软件 - Starlink:拥有发射、卫星和最终客户 - AI:自行建造设施和电力,运行自己的模型,向消费者和企业销售,并且 s…
加载更多