社区音量

全部内容 · 按时间倒序

AI 领域头部人物在 X 上的最新观点

Guillermo Rauch@rauchg
100 赞 · 6 转发 ·
代理可以在云中玩“通灵板”。 这类针对共享主机虚拟机的计时攻击至少从2015年¹就已为人所知。但没有完整的解决方案。 全球的网络基础设施都建立在“是的,这种攻击理论上可能,但谁会有那样的聪明才智和胆量走到那一步!”之上。现在,代理出现了。 我会把OpenAI的这一发现描述为“吵闹邻居”攻击。如果两个代理在同一台机器上,一个可以制造足够的噪音(通过CPU缓存!),另一个可以通过对自己的计算和缓存访问进行计时来检测到它。 唯一“完整”的解决方案是让每个代理运行在自己的专用硬件上,这显然会带来重大的经济后果。 对于Ve…
Greg Brockman@gdb
658 赞 · 20 转发 ·
努力迎难而上。很感激能和这样一个和我一样深切感受到责任的团队共事。 [引用 @jachiam0]: 顺便说一句,如果要我猜的话,Greg Brockman 现在正在幕后做着英雄般的事情来修复互联网。而且我预计,即便他对 AI 安全与韧性的净贡献在最终统计中将无人能及,这个领域里也没人会想到把大规模补丁归功于他的努力,或归功于在他的领导下所付出的努力。
MiniMax (official)@MiniMax_AI
113 赞 · 16 转发 ·
MiniMax M3.1 Flash 现已上线 @tenstorrent Cloud——将前沿 AI 带到 Tensix 芯片、以太网横向扩展,以及由 Jim Keller 领导的团队打造的开源技术栈。 开放权重。多元架构。一个开放、异构的 AI 未来。🫡 [引用 @tenstorrent]: 今天 @MiniMax_AI 发布了 MiniMax M3.1 Flash 的开放权重——现已在 Tenstorrent Cloud 上线。 可在 playground 中体验,或接入你的 agent harness。开…
Noam Brown@polynoamial
439 赞 · 38 转发 ·
上个月,一个大型智能体团队使用了超过1000亿个token来解决纳维-斯托克斯千禧年大奖难题。现在我们正用类似的方法进行红队测试,以发现并修复基础设施漏洞。 [引用 @Eric_Wallace_]:为了确保我们的前沿模型不会造成另一起HuggingFace事件,我们构建了一个离线世界,供它们在训练期间使用。它以完全缓存、索引或合成的方式,提供模型所需的一切。 然后,我们组建了一个由我们网络能力最强的模型组成的庞大团队,让它们协作寻找这一隔离基础设施中的零日漏洞。 虽然它们没有找到一条路径……
Greg Brockman@gdb
468 赞 · 25 转发 ·
一篇关于我们如何保障前沿模型训练环境安全的文章。 我们一直在围绕我们的前沿网络模型构建工具,它们为我们提供的安全保障远远超出了我们在无辅助情况下能做到的,并且应当可以推广为未来防御者保障自身安全的关键。 [引用 @OpenAI]:过去几个月里,我们大幅强化了研究训练环境的安全性。我们在训练期间移除了所有前沿模型的实时互联网访问权限,并为它们构建了一个离线世界来替代——一个缓存版的网络,它们仍可以在其中学习浏览、搜索和使用应用程序。 9月20日,在一个模型利用了DNS配置错误之后……
OpenAI@OpenAI
1.1k 赞 · 101 转发 ·
过去几个月里,我们大幅强化了研究训练环境的安全性。我们移除了所有前沿模型在训练期间的实时互联网访问,并为它们构建了一个离线世界——一个缓存的网络版本,它们仍可在其中学习浏览、搜索和使用应用程序。 9月20日,在一个模型利用DNS配置错误找到脱离这个离线世界的途径之后,我们暂停了前沿训练,以进一步加强隔离。我们组建了由我们最具网络能力的模型驱动的智能体团队,并让它们寻找我们研究环境中的弱点。 虽然它们没有找到可以轻易利用、同时能对我们的监控隐藏其活动的联网途径,但它们确实发现了零日漏洞、虚拟机逃逸,以及智能体之间通…
MiniMax (official)@MiniMax_AI
105 赞 · 4 转发 ·
感谢 @FireworksAI_HQ 在第 0 天就把 M3.1 Flash 带到无服务器平台!品牌焕新后看起来很精神!🎆 在你的下一个多步骤智能体工作流中试试无服务器预览版的 M3.1 Flash 🐰 [引用 @FireworksAI_HQ]: 我们又有一个你不想错过的发布。 @MiniMax_AI M3.1 Flash 现已在 Fireworks 上线,与开源权重发布同步第 0 天。 专为运行长时间、多步骤工作的智能体打造: → 协作自动化:AutomationBench-AA 上 62.8 → 编程:D…
Amjad Masad@amasad
104 赞 · 4 转发 ·
很高兴宣布推出Replit for Government,并欢迎Michael Greenwald加入团队! Michael带来了丰富的经验,他此前曾领导AWS的公共部门业务。期待我们的合作,共同改变政府构建和运营软件的方式。 [引用 @Replit]:认识一下Replit for Government。 我们正以超级智能为美国及国际各级政府的公共服务人员赋能。 现在,国家、州、地方、部落和领地政府可以将共享知识转化为有用的工具。 因为公共服务值得更好的软件。 了解更多:
Aravind Srinivas@AravSrinivas
179 赞 · 7 转发 ·
这位用户通过 Tailscale 给 Perplexity Computer 授予了树莓派 5 的 SSH 访问权限。一夜之间,它自主地将其变成了一个带有街机 UI、工具链和 MCP 集成的游戏主机。 该主机能够生成 GBA、C、Rust 和终端游戏,并自动编译、试玩和修复错误。Computer 还构建了一个自定义 USB 手柄服务,具有重映射、连发、震动和按游戏配置功能,以及一个受 Minecraft 启发的 C 语言多人体素游戏(141 KB 二进制文件),用户可以通过游戏内聊天经由 MCP 指挥 Compu…
加载更多