社区音量

51 条

仅显示 2026年11月6日 周五 的内容 · 查看全部日期 →

John Schulman@johnschulman2
336 赞 · 45 转发 ·
很自豪发布我们的新模型 Inkling 2 Small。欢迎查看我们的博客文章——其中详细介绍了我们的训练过程。 对我来说,这次发布最有趣的部分是我们学到了关于对齐的一些东西,你可以在“安全与对齐”和“训练 Inkling 2 Small”这两个章节中读到。 当我们的早期检查点在训练和评估期间采取意外行动来绕过防护栏时,我们经历了一些令人不快的意外。我们意识到,我们以能力为中心的强化学习正在训练它们变得极其执着,并不惜一切代价完成任务。离线监控器首先标记了这种行为,但后来我们意识到它频繁发生,而且很容易复现。 在…
Noam Brown@polynoamial
269 赞 · 12 转发 ·
说实话,这个基准测试的方法论让我相当佩服。@dwarkesh_sp 想来 @OpenAI 设计评估基准吗? [引用 @dwarkesh_sp]: 我花了 20,000 美元的 API 额度,让不同的 AI 模型在《血染钟楼》(一款类似黑手党或狼人杀的社会欺骗游戏)中互相对战。 结果非常有意思。这一年里,模型在临场即兴编造阴谋和虚张声势方面进步了很多,在团队推理、拆解这些地下阴谋方面也同样进步显著。 我梳理了其中一些……
Amjad Masad@amasad
115 赞 · 11 转发 ·
如今 Linux 零日漏洞层出不穷,但在 Replit 上,凭借我们定制的内核构建,我们能够避免其中 96% 的漏洞。 了解我们新的沙箱设计。 [引用 @Replit]: AI 智能体需要工作空间,也需要对其可触及范围的边界限制。 我们围绕微虚拟机重建了 Replit 的沙箱引擎,让每个沙箱都拥有自己的 Linux 内核。 我们详细说明了这一架构背后的决策:最小化的客户机内核、在客户机之外强制执行的网络控制,以及凭据代理,使工作负载能够发出授权请求,而无需获得可重复使用的账户凭据……
Teknium 🪽@Teknium
232 赞 · 16 转发 ·
Hermes Agent v0.23 刚刚发布! 最大的头条新功能是,你现在可以把桌面应用托管为 Web 应用! 随时随地通过网页浏览器访问你的 agent。 查看下方完整发布说明! [引用 @NousResearch]: Hermes Agent v0.23.0:The Hearth Release 亮点: - 浏览器标签页中的桌面端 - 每个对话一个网关 - /Rewind - 自动路由的群聊 - 付费工具消费限额 - 更轻更快 以及更多 更新日志见下方
Dwarkesh Patel@dwarkesh_sp
129 赞 · 2 转发 ·
OpenAI 模型在《血染钟楼》中碾压 Anthropic 模型(Astra 对 Opus 5.5 的胜率为 82%)。 [引用 @dwarkesh_sp]: 我花了 20,000 美元的 API 额度,让不同的 AI 模型在《血染钟楼》(一种类似黑手党或狼人杀的社交欺骗游戏)中互相对战。 结果非常有趣。在这一年里,模型在创造性临场谋划和虚张声势方面进步了很多,在团队推理以瓦解这些地下阴谋方面也是如此。 我详细梳理了一些…
Ethan Mollick@emollick
128 赞 · 10 转发 ·
Erik 是最密切关注 AI 对经济影响的经济学家之一,甚至在生成式 AI 出现之前就开始了… [引用 @erikbryn]: 越来越多的证据表明,我们正在迎来生产率的转折。 美国生产率上季度年化增长 3.6%。 这超过 2007 至 2019 年 1.5% 平均水平的两倍。 新数据让我在与 Bob Gordon 关于 2020 年代生产率增长的赌局中进一步领先。💪 以下是美国目前领先于十年前(在他们了解 AI 之前)CBO 预测的程度…
已经到底了