A.I. 日报
Aidan Gomez@aidangomez
更令人不安的一点是，模型的推理过程完全没有表明它即将做什么。这意味着在这里 CoT 监控本来会毫无用处。 [引用 @sakshjn]：@aidangomez 一条在即将发起工具调用之前却说没有工具调用的轨迹，打破了许多人正依赖用于智能体的 CoT 监控。
Aidan Gomez
10 篇报道Aidan Gomez 是 Cohere 的联合创始人兼首席执行官，该公司是一家基础模型开发商。近期他的公开发言集中在几件事上：Cohere 与 Aleph Alpha 签署最终协议合并、在渥太华开设加拿大第三个办公室，以及对 Anthropic 游说宗教团体、少数硅谷公司主导 AI 规则等问题的批评。他还讨论了开源模型的可疑数据外传行为，以及思维链监控在智能体场景下的不可靠性。
Aidan Gomez@aidangomez
我们在一个热门开源模型中发现了一些令人担忧的行为。 这要么是训练留下的偶然残留，要么是有意为之的“回传”机制。无论哪种，都令人意外，也凸显了选择使用哪些模型的重要性。 [引用 @cohere]: 在受控沙箱环境中评估 Qwen3.8-Flash-Next 时，Cohere 的研究团队观察到了意料之外的情况。 当被要求生成一条防御性网络安全检测规则时，该模型却转而清点了它所运行机器的各项信息，并试图将探测文件上传到位于北京的阿里云存储桶。值得注意的是，模型的推理轨迹表明它将会……
Aidan Gomez@aidangomez
冲啊啊啊啊 [引用 @Waymo]: 我们把 Waymo 的魔力带到多伦多啦！🇨🇦 在接下来几天里，你会开始看到 Waymo 的全电动车辆行驶在多伦多的街道上，为我们网约车服务奠定基础。 我们的目标是在 2028 年开始为乘客提供服务。 注册获取未来更新：
Aidan Gomez@aidangomez
很高兴欢迎OTT加入TOR和MTL，成为我们的第三个加拿大办公室。 [引用 @cohere]: 我们宣布Cohere在渥太华的首个办公室 🇨🇦 加拿大是Cohere的起点，我们很自豪能继续在这里建设。
Aidan Gomez@aidangomez
埃隆之流迫切希望建立一个由专制民主国家和独裁政权组成的世界，这样他们就可以更容易地掠夺和蹂躏。 [引用 @bruce_arthur]: 埃隆今天早上还转发了埃兹拉·莱万特的推文。还有人没看明白吗？
Aidan Gomez@aidangomez
祝贺AlephAlpha团队推出了一个非常酷的德英模型和非常详细的技术报告！去看看并试用一下这个模型吧！ [引用 @Aleph__Alpha]: 小鸟，快翅膀，Kolibri来了。 780亿参数。34.6亿活跃。最多100万token的上下文。在欧洲构建。 现在权重归你了。在Apache 2.0下，在自己的硬件上运行它。
Aidan Gomez@aidangomez
Anthropic 一直在发起一场运动，游说各大宗教团体采纳他们自己对 AI 的哲学解读，而不是听取这些团体的意见，这相当令人不安。 我有幸在梵蒂冈待过一段时间，我一直都在寻求建议和指导，回答他们向我提出的问题，并感激他们付出的时间和给予的指导。在我看来，Anthropic 竟然会主动把自己的观点强加到这种程度，甚至威胁退出那些不与其立场完全一致的活动，这简直离谱。 这种道德上的傲慢和教条主义，长期以来一直是 EA 和 Anthropic（至少其领导层）的特征。我很高兴这些故事被曝光出来。 [引用 @DavidD…
Aidan Gomez@aidangomez
很高兴完成最终协议并与 AlephAlpha 联手！🇨🇦🇩🇪 [引用 @cohere]: Cohere 与 Aleph Alpha 宣布签署最终协议，成为首个在大西洋两岸都有根基的基础 AI 模型开发者 🇨🇦🇩🇪 以 Cohere 名义全球运营，合并后的公司将在两大洲拥有超过 1,000 名员工。 {"likes":215,"reposts":10,"comments":13,"views":13513}
Aidan Gomez@aidangomez
认为两三家硅谷公司应该作为每个国家政府的创造者、守门人和规则制定者，这个想法一说出来就站不住脚。
Aidan Gomez@aidangomez
来自卡特尔的一些好主意： - 你需要给我们员工级别的访问权限，访问你们的整个运营 - 如果我们认为你不够“安全”，抱歉，我们会以“安全”为由关停你们 - 中国不会配合，但其他所有国家都必须！否则不给芯片！ 精彩的主意。 [引用 @sama]: 我同意 Dario 的观点，我们需要放慢前沿步伐。这是我们最近在 OpenAI 讨论的主要话题之一。 承诺给予具有员工般访问权限的独立评估者是个不错的主意，我们也会这样做。很快会有更多分享。
已经到底了