社区音量

全部内容 · 按时间倒序

AI 领域头部人物在 X 上的最新观点

Gorden Sun@Gorden_Sun
110 赞 · 15 转发 ·
陶哲轩又翻车了 昨天他在加州理工学院的演讲PPT,有一页内容是一个思想实验:如果一个药物方案来自无法解释的“黑盒 AI”,它通过了三期临床试验并在数学/逻辑上自洽,那人类应该使用它吗? 陶哲轩的意思是不应该使用。实际这种事儿在医学界是常有的事儿。。。 例如: 阿司匹林(Aspirin): 反例事实:人类早在古希腊时期就用柳树皮止痛(原理就跟阿司匹林相同),拜耳公司于 1897 年人工合成了阿司匹林,并在全球广泛使用了数十年。然而,人类直到 1971 年(约翰·范恩因此获得 1982 年诺贝尔奖)才发现阿司匹林是通…
clem 🤗@ClementDelangue
269 赞 · 40 转发 ·
我们把 @OpenAI 的数学问题变成了 @huggingface 上的开源 RL 环境! 还很早期和粗糙(验证器只接受完全原始的公式化,因此等价的证明仍可能得 0 分),但当一项研究发布变成人人都能用的可执行训练基础设施时,就是这样。 在我看来这是一个令人兴奋的方向:将开放研究变成开放的可执行环境,任何人都可以在此基础上训练更好的开放模型!
yetone@yetone
107 赞 · 9 转发 ·
既然 Magpie 的插件已经支持了订阅供应商插件和 Gateway 中间件插件,那么还缺失了最后一环,那就是让 Agent 本身成为插件,好消息是现在 Magpie 已经完美支持 Agent 插件了,这就意味着即使你使用的或者你开发的 Agent 并不在 Magpie 内置支持的列表中,你也可以通过快速开发一个 Agent 插件来让 Magpie 快速支持你的 Agent,这次彻底解耦已经让 Magpie 成为了 Agent Native 框架本身,其自身的智能路由、脱敏、实时观测、Agent Evaluati…
Nathan Lambert@natolambert
288 赞 · 10 转发 ·
我会这样描述:数据行业近年来起飞,但我们净输出的质量仍然太低(放大了奖励黑客等行为)。 我们正在努力构建可扩展的方法,为 RL 创建样本高效的数据。为了保持这个管道的运转,我们需要推动评估科学的前沿,同时构建具体的基准,在具有明确经济价值的领域进行爬山。 我一直在建议 Mercor 如何有效地构建这一研究方向。这些是我的观点,但我相信我们将看到经济界对前沿实验室(开放推理、开放后训练和数据)的重大投资,围绕构建真实世界代表性评估和合成数据方法的专业知识,以扩展围绕它们的训练数据。 我个人对此非常兴奋,这是将让更多…
加载更多