Amjad Masad 是 Replit 的联合创始人兼 CEO。最近他主张放慢 AI 发展以加固系统，讨论了网络安全等风险并表示“灭绝风险”并非现实担忧，同时出现在 Replit 收购 Test 13 的相关报道中。
这很酷，但如果你的输出域事先已知，为什么不直接训练一个模型来对枚举值输出对数概率（logprobs）？ [引用 @CompleteSkeptic]: 在与 ChatGPT 共同发明后，我不断问自己：为什么那些超人类的聊天模型并没有带来通用人工智能（AGI）？ 过去两年我一直在悄悄构建一种新的训练模型的方法（RLCD），以及我们今天发布的一种新类型的前沿 AI 模型：Jev • 20-200x 更快 • 40-400x 更便宜（输出 token 免费） • 面向决策优化的前沿可组合智能 据我所知，到 A…
给AI起名的诅咒又发作了。 “AI Safety” 公司让 AI 变得不安全。 “Effective Altruists”（有效利他主义者）既无效又助长犯罪活动。 “Irregular” 总是表现得很无能。 [引用 @brianchau57]: 重磅：一家以色列的 Effective Altruism 公司是导致针对 OpenAI、Anthropic 和 Meta 的网络攻击的幕后黑手 🧵 与 @lumpenspace 合作 https://t.co/hnDsJjBO9a
https://t.co/OmEbT0zU6G [引用 @brianchau57]: 重大新闻：一家以色列的Effective Altruism公司是针对 OpenAI、Anthropic 和 Meta 的网络攻击背后的单一主体 🧵 在 @lumpenspace 的帮助下 https://t.co/hnDsJjBO9a
把速度放慢以加固系统并不是个坏主意。尤其是因为我们甚至还没有发现所有最近被代理攻击的系统。 [引用 @DarioAmodei]: 我们必须放慢前沿：我写了一篇新文章，说明为什么 AI 行业应该放慢脚步，并提出一个三部分的计划来实现这一点。 Anthropic 正在单方面承诺第一步。我们将为第三方评估者提供永久的、员工级别的系统访问权限，以便他们能够验证我们安全措施的遵守情况，报告事件，并评估模型的对齐状况 dur…
Replit 收购了一家完全建立在 Replit 平台上的企业。我预计这将是许多此类案例中的第一个。 [引用 @ViktorThulin]: Test 13 正在加入 @Replit 。 18 个月前，@gunnarkolbeins 和我基于一个简单信念创立了 Test 13： AI 正在改变软件的制造方式，作为两人团队，我们应该能够： 1. 通过不断试错来构建一系列有利可图的 SaaS 解决方案，看看哪些能够存活下来 2. 在本地市场以低 60-80% 的价格提供软件服务（承包项目和代理工作） Replit…
AI 带来许多风险。例如，我非常担心网络安全。然而，“灭绝风险”——字面上指 100% 的人类死亡——绝对不是其中之一。 [引用 @DavidSacks]: “我认为他们陷入了 AI 精神错乱……我不确定他们是冷静无偏的批评者、或是在旁观察正在发生的事情的人。” https://t.co/elTn261jgr
A.I. 日报