社区音量

全部内容 · 按时间倒序

AI 领域头部人物在 X 上的最新观点

Noam Brown@polynoamial
439 赞 · 38 转发 ·
上个月,一个大型智能体团队使用了超过1000亿个token来解决纳维-斯托克斯千禧年大奖难题。现在我们正用类似的方法进行红队测试,以发现并修复基础设施漏洞。 [引用 @Eric_Wallace_]:为了确保我们的前沿模型不会造成另一起HuggingFace事件,我们构建了一个离线世界,供它们在训练期间使用。它以完全缓存、索引或合成的方式,提供模型所需的一切。 然后,我们组建了一个由我们网络能力最强的模型组成的庞大团队,让它们协作寻找这一隔离基础设施中的零日漏洞。 虽然它们没有找到一条路径……
Greg Brockman@gdb
468 赞 · 25 转发 ·
一篇关于我们如何保障前沿模型训练环境安全的文章。 我们一直在围绕我们的前沿网络模型构建工具,它们为我们提供的安全保障远远超出了我们在无辅助情况下能做到的,并且应当可以推广为未来防御者保障自身安全的关键。 [引用 @OpenAI]:过去几个月里,我们大幅强化了研究训练环境的安全性。我们在训练期间移除了所有前沿模型的实时互联网访问权限,并为它们构建了一个离线世界来替代——一个缓存版的网络,它们仍可以在其中学习浏览、搜索和使用应用程序。 9月20日,在一个模型利用了DNS配置错误之后……
OpenAI@OpenAI
1.1k 赞 · 101 转发 ·
过去几个月里,我们大幅强化了研究训练环境的安全性。我们移除了所有前沿模型在训练期间的实时互联网访问,并为它们构建了一个离线世界——一个缓存的网络版本,它们仍可在其中学习浏览、搜索和使用应用程序。 9月20日,在一个模型利用DNS配置错误找到脱离这个离线世界的途径之后,我们暂停了前沿训练,以进一步加强隔离。我们组建了由我们最具网络能力的模型驱动的智能体团队,并让它们寻找我们研究环境中的弱点。 虽然它们没有找到可以轻易利用、同时能对我们的监控隐藏其活动的联网途径,但它们确实发现了零日漏洞、虚拟机逃逸,以及智能体之间通…
MiniMax (official)@MiniMax_AI
105 赞 · 4 转发 ·
感谢 @FireworksAI_HQ 在第 0 天就把 M3.1 Flash 带到无服务器平台!品牌焕新后看起来很精神!🎆 在你的下一个多步骤智能体工作流中试试无服务器预览版的 M3.1 Flash 🐰 [引用 @FireworksAI_HQ]: 我们又有一个你不想错过的发布。 @MiniMax_AI M3.1 Flash 现已在 Fireworks 上线,与开源权重发布同步第 0 天。 专为运行长时间、多步骤工作的智能体打造: → 协作自动化:AutomationBench-AA 上 62.8 → 编程:D…
Amjad Masad@amasad
104 赞 · 4 转发 ·
很高兴宣布推出Replit for Government,并欢迎Michael Greenwald加入团队! Michael带来了丰富的经验,他此前曾领导AWS的公共部门业务。期待我们的合作,共同改变政府构建和运营软件的方式。 [引用 @Replit]:认识一下Replit for Government。 我们正以超级智能为美国及国际各级政府的公共服务人员赋能。 现在,国家、州、地方、部落和领地政府可以将共享知识转化为有用的工具。 因为公共服务值得更好的软件。 了解更多:
Aravind Srinivas@AravSrinivas
179 赞 · 7 转发 ·
这位用户通过 Tailscale 给 Perplexity Computer 授予了树莓派 5 的 SSH 访问权限。一夜之间,它自主地将其变成了一个带有街机 UI、工具链和 MCP 集成的游戏主机。 该主机能够生成 GBA、C、Rust 和终端游戏,并自动编译、试玩和修复错误。Computer 还构建了一个自定义 USB 手柄服务,具有重映射、连发、震动和按游戏配置功能,以及一个受 Minecraft 启发的 C 语言多人体素游戏(141 KB 二进制文件),用户可以通过游戏内聊天经由 MCP 指挥 Compu…
Aravind Srinivas@AravSrinivas
123 赞 · 5 转发 ·
Computer 现在在构建网站方面更有品味了,这要归功于 @LexnLin 的开源技能,现已集成到内部。我们为每位用户提供 5000 积分来尝试。 [引用 @AskPerplexity]: 由 @LexnLin 开发的 Taste Skill 现已登陆 Computer 的技能市场,它会在 Computer 构建网站之前设定艺术方向。 布局和字体借鉴了来自 Awwwards 和 One Page Love 的 247 个网站。 使用 /taste-skill 的任务在 10 月 31 日之前免费,每位用户最多…
Ethan Mollick@emollick
175 赞 · 8 转发 ·
“提示注入”一词的发明者怀疑(我也一样),在新模型中这可能不再是大问题。这与我们的测试相符,测试表明现在无法再简单地通过提示注入来要求在论文中获得更高分数了。 [引用 @simonw]:@nateberkopec 我开始谨慎地怀疑,在当今最强的模型上这可能已不是问题——尤其是 Anthropic 对其避免提示注入的能力非常有信心——但对更便宜、更弱的模型来说,这仍是切实的担忧
加载更多