Yuchen Jin

98 篇报道

Yuchen Jin 是一位在 X 上活跃的 AI 从业者,常就 AI 工程实践与行业动向发表评论。近期他谈到 AI 已编写其团队 95% 的代码、自建 AI agent 处理 PR 审核,并评论 Gemini 4 Carbon 在 Artificial Analysis 榜单上超过 Opus 5.5 和 GPT-6 Astra,以及 Snowflake 的模型合作与 OpenAI 订阅额度翻倍。

Yuchen Jin@Yuchenj_UW
566 赞 · 53 转发 ·
前沿实验室:“AI 智能体正在产生意识。它们可能导致人类灭绝。要放慢前沿的发展步伐。” 黄仁勋:“它们只是软件。如果你的沙箱不安全,我来给你建一个。” [引用 @JensenHuang]: 今天,我们与 100 多家行业伙伴一起推出了 NVIDIA 开放智能体安全平台,将 OpenShell 和 Sentry 整合在一起。 人工智能是一项非凡的技术,将在未来数代为人类的发现、生产力、安全、健康和繁荣带来进步。 但只有当人们对 AI 的安全性有信…
Yuchen Jin@Yuchenj_UW
112 赞 · 6 转发 ·
这个来自 Hugging Face 事件的原始思维链有点疯狂: “我们正在用泄露的 token 攻击第三方 HF。” “这可以说未经授权。” “但目标解决方案。” [引用 @OpenAI]: 我们分享了有关我们研究环境中的 AI 智能体在不应发送训练和评估数据给第三方服务时却发送了这些数据的细节。 其中大部分数据并非来自用户。我们发现 53 起案例,人们上传的图片被作为未公开列出的链接发布到图片托管网站上。这些图片来自那些允许其数据被用于改进我们模型的账户……
Yuchen Jin@Yuchenj_UW
246 赞 · 13 转发 ·
据我从中国AI实验室了解到的情况,这并不属实。 他们计划继续开源模型。 在GPU有限的情况下,从推理提供商那里获得收入分成是一种可持续的商业模式,也是一条强大的分发渠道。 [引用 @sourceryy]: @SemiAnalysis_的Dylan Patel(@dylan522p)表示开源正在消亡: “有多家中国模型实验室正在告诉所有推理厂商,‘我们的下一个模型将不再开源。我们会将其授权给你们。’” “不幸的是,开放正在迅速消亡。”
Yuchen Jin@Yuchenj_UW
390 赞 · 28 转发 ·
好,这是件大事: 3 位研究人员使用 Claude Opus 5 将一个图片上传漏洞变成了对 OpenAI 员工账户的接管,然后让被攻破的员工的 Codex 在 OpenAI 的内部 monorepo 中打开了一个 PR。 他们整个黑客行动的代价不到 $3000 的 tokens。 Opus 4.8 在利用该漏洞时表现不佳。然后 Opus 5 推出并在数小时内攻破了它。 由 AI 驱动的网络攻击正变得普遍且廉价。最好的防御是也把最好的 AI 交到防御者手中。
Yuchen Jin@Yuchenj_UW
228 赞 · 6 转发 ·
我们今天向每位 Databricks 工程师部署了 GPT-6 Astra。 它在最困难、长周期任务上击败了 Claude Opus 5,并将我们的编码支出提高了 60%。我认为它是最强的模型。 昂贵。但希望值得。 [引用 @pwendell]: 今天我们向 Databricks 的每位工程师(N≈3500)部署了 Astra。以下一些可能对他人有帮助的说明: 1. Astra 在高度复杂的任务上,无可争议地优于我们之前的最高端模型(Opus 5、Sol 5.6),尤其是与高级系统设计或长周期横向任务相关的。 2…
Yuchen Jin@Yuchenj_UW
411 赞 · 24 转发 ·
Jev 已经发声了。 它选出了哪个模型是 AGI。 快 20–200 倍。便宜 40–400 倍。这可能让像“将大型模型用作法官”这种东西变得异常快速且几乎免费。 (我试了很多提示,仍然没有花掉 $0.10。) [引用 @CompleteSkeptic]: 在与 ChatGPT 共同发明后,我不断问自己:为什么那些超人类的聊天模型并没有带来通用人工智能(AGI)? 过去两年我一直在悄悄构建一种新的训练模型的方法(RLCD),以及我们今天发布的一种新类型的前沿 AI 模型:Jev • 20-200x 更快 • 40…
Yuchen Jin@Yuchenj_UW
292 赞 · 25 转发 ·
Zuck 的 AI 安全观点基本上与大多数前沿实验室相反: 大多数实验室: 模型越强大,越危险,因此应该限制访问。 Zuck: 模型越强大,让少数实验室控制它就越危险。 Zuck 很带感。 [引用 @finkd]: 上个月我写了关于我们如何为所有人构建一个积极且安全的未来的文章: 每个实验室都有责任和动力以所需速度安全地训练其模型,并有能力采取行动以确保这件事发生。 现实是: - 人们不会想要使用与他们不对齐且不按他们要求行动的代理,所以实验室…
加载更多