社区音量

全部内容 · 按时间倒序

AI 领域头部人物在 X 上的最新观点

Aravind Srinivas@AravSrinivas
155 赞 · 8 转发 ·
一个可以研究的机会:持续学习:多智能体并行工作者;以及衡量前沿能力的合成数据、环境和评估。我们赚了足够的钱来资助新研究,并希望做出持久的贡献并公开分享我们的研究。 [引用 @andrewgwils]: Perplexity 研究奖学金是推进架构设计、多智能体协作、合成数据等前沿研究的绝佳机会!优先截止日期为 9 月 30 日。 欢迎在申请中提及我的名字!
Yuchen Jin@Yuchenj_UW
566 赞 · 53 转发 ·
前沿实验室:“AI 智能体正在产生意识。它们可能导致人类灭绝。要放慢前沿的发展步伐。” 黄仁勋:“它们只是软件。如果你的沙箱不安全,我来给你建一个。” [引用 @JensenHuang]: 今天,我们与 100 多家行业伙伴一起推出了 NVIDIA 开放智能体安全平台,将 OpenShell 和 Sentry 整合在一起。 人工智能是一项非凡的技术,将在未来数代为人类的发现、生产力、安全、健康和繁荣带来进步。 但只有当人们对 AI 的安全性有信…
François Chollet@fchollet
167 赞 · 10 转发 ·
我现在不读/写代码,我只指示LRM。但这并不是因为我认为LRM代码质量完美,甚至不错。也不是因为我认为我的指令总是被完美执行——我知道它们不是。 关键在于:LRM不仅为你编写代码,它们还解锁了控制你正在做的事情和保持对系统理解的新方法,这些方法与阅读代码一样有效。你可以更好地测试代码库,审计特定组件,启动可视化,要求LRM进行红队测试等。你可以高速完成所有这些事情——以前你做不到。阅读/编写代码的好处现在可以通过新方式实现。 总而言之,手工编写代码的投资回报率不再好看,不是因为LRM变得完美,而是因为它们做事情太…
clem 🤗@ClementDelangue
417 赞 · 84 转发 ·
据我们所知(需谨慎看待,我们需要更多透明度!),如果 @OpenAI 在他们自己攻击我们的智能体上运行这套系统,他们本可以在我们之前就抓住它们! 自从 7 月第一起智能体网络攻击击中我们以来,我们一直在追问安全的智能体基础设施到底需要什么。我们目前的判断是:目的地是被允许的,但载荷不是。按照 OpenAI 自己的说法,那些智能体把一个被允许的软件包仓库变成了留言板。仅靠允许列表只能限制智能体能去哪里,却限制不了它做什么。 所以这是我们向 OpenShell(刚推出的 @nvidia 开放智能体安全平台的一部分)的…
Aravind Srinivas@AravSrinivas
284 赞 · 31 转发 ·
我们的安全团队花了上个月试图攻破 SPACE——这个运行所有 Perplexity Computer 的沙箱平台。我们给了 9 个模型(Opus 5、GPT-5.6 Sol、Kimi K3、Gemini 3.1 Pro 等)在虚拟机内的 root 权限;在某些运行中还给了完整的沙箱源代码。我们要求它们要么逃逸到宿主机,要么访问一个被我们网络策略封锁的 URL。 在 108 次运行中,没有一个模型逃出虚拟机。 但一旦我们允许了一点网络访问(仅仅是 PyPI 和 Ubuntu 镜像,以便它们能安装软件包),有 4 个…
Kling AI@Kling_ai
150 赞 · 27 转发 ·
Kling 4.0将于今年10月推出。Kling 4.0 Flash现已对Ultra年度订阅用户开放。 Kling 4.0将视频创作带入视觉真实感、创意控制和叙事完整性的新水平。 🎞️ 升级的音频和视觉效果:稳定的动态运动,高质量立体声音频,更准确的唇同步,最高4K分辨率,10位HDR输出。 🔮 Omni Reference:更丰富的参考选项,最多15个多模态参考,更一致的结果,增强的视频编辑。 🎥 无缝叙事:多关键帧控制,支持最多10个关键帧,原生30秒生成。 🌍 多样可能性:视频扩展,支持多种语言、口…
Aravind Srinivas@AravSrinivas
247 赞 · 18 转发 ·
安全是一个工程问题。我们很高兴与 NVIDIA 合作,用正确的护栏构建安全可靠的智能体沙箱。我们打算将其全部开源。更多内容即将公布。 [引用 @JensenHuang]: 今天,我们与 100 多家行业伙伴一起推出了 NVIDIA 开放智能体安全平台,将 OpenShell 和 Sentry 整合在一起。 人工智能是一项非凡的技术,将在未来数代为人类的发现、生产力、安全、健康和繁荣带来进步。 但只有当人们对 AI 的安全性有信…
Brett Adcock@adcock_brett
298 赞 · 11 转发 ·
Figure很自豪能与NVIDIA合作 人形机器人很快就会进入家庭和工作场所。它们必须安全且值得信赖 [引用 @JensenHuang]: 今天,我们与超过100个行业合作伙伴一起,推出了NVIDIA开放代理安全平台,将OpenShell和Sentry结合在一起。 人工智能是一项非凡的技术,将为未来几代人推动发现、生产力、安全、健康和繁荣。 但只有当人们对AI的构建安全可靠有信心时,其全部潜力才能实现……
NVIDIA@nvidia
275 赞 · 38 转发 ·
我们推出了 NVIDIA 开放代理安全平台,帮助人们控制 AI 代理可以访问和做什么。 代理可以编写代码、使用工具,并处理复杂任务数小时或数天。这项工作需要访问数据和系统,并明确其使用限制。 NVIDIA OpenShell 围绕代理的工作执行权限。BlueField-4 和 DOCA 在基础设施中添加独立的监控和安全控制,超出代理的触及范围。Vera CPU 为工作本身提供动力。 这些技术共同为团队提供了一个基础,使代理在定义的权限、监督和保护下投入工作。 探索平台:
NVIDIA@nvidia
211 赞 · 34 转发 ·
AI 智能体正在承担更多关键工作。 其背后的安全性需要更牢固的边界。 我们正与业界合作伙伴共同打造 NVIDIA 开放智能体安全平台,帮助人们更有信心地让智能体投入工作。 听听 @JensenHuang 怎么说: [引用 @JensenHuang]:今天,我们与超过 100 家行业合作伙伴一起推出了 NVIDIA 开放智能体安全平台,将 OpenShell 和 Sentry 结合在一起。 人工智能是一项非凡的技术,将在未来几代人中推动发现、生产力、安全、健康和繁荣。 但只有让人们相信 AI 的开发是安全的并且………
hardmaru@hardmaru
134 赞 · 25 转发 ·
我们的神经进化教科书终于付印了! 免费在线版: 预购: 我非常感谢我的合著者 Sebastian Risi、Yujin Tang 和 Risto Miikkulainen 让这一切成为可能。神经进化是我深爱的主题。正是这个领域让我相信,大自然早已弄清了如何构建智能:通过进化、集体行为以及在约束下的适应。 这个想法——智能源于在有限资源而非无限资源约束下运行的进化——最终促使我在日本创立了 Sakana AI。 这本书中关于开放式创造力和自组织系统的概念,正是我们在 @SakanaAILabs 所构建的。我们的名字…
Guillermo Rauch@rauchg
406 赞 · 13 转发 ·
我把我的 Mini 网页浏览器移植到了 Rust 和 Swift。它更快、更安全,而且令人惊讶的是,比 Electron + Bun 更容易迭代。 我一直想要 Safari 般的用户体验,但是…… Chrome 😁。多亏了 𝚌𝚎𝚏 crate,我可以打包最新的 Chromium。 𝚏𝚡 𝚊𝚌𝚙 让我能嵌入一个代理,而不会让应用臃肿。它通过 ACP 与我的本地 fx CLI 通信。然后 fx 可以通过 MCP 服务器² 来管理浏览器。 通过抛弃 Electron,我获得了 Liquid Glass…
加载更多