Anthropic

811 篇报道

Anthropic 是一家美国 AI 公司,开发 Claude 系列大模型,企业客户约占其业务的 80%。近期报道集中在它的上市进程与成本结构:更新后的 S-1 显示季度收入 170 亿美元、算力成本升至收入的 58%,并披露季度薪酬支出 17 亿美元;公司据报计划下月 IPO,估值或超 2 万亿美元。产品方面,Anthropic 推出可验证模型输出的 FlashProve 研究、降低首字延迟约 35% 的 Message Threads,以及供管理者查看 Claude 使用情况的 Smart Reports;Athenahealth 也推出了连接病历与 Claude 的服务器。

微软总裁:AI监管还不如牛奶严格

微软总裁Brad Smith对BBC表示,牛奶和洗衣机受到的监管都比AI更严格,呼吁建立全球AI安全规则,包括AI系统被攻击时的通报义务、发布前的独立安全评估以及紧急“终止开关”。他称上月OpenAI、Anthropic、英伟达、Meta、谷歌等与特朗普签署的自律协议是好的一步,但已不够。

Christian Action Research and Education ·

评论:AI风险不应引发恐慌

《韩国时报》评论指出,尽管OpenAI因安全顾虑推迟发布新模型、Anthropic在监管文件中承认产品可能带来"灾难性风险",但灭绝论远非专家共识。国际AI安全报告、AAAI主席小组和斯坦福AI指数等研究均显示威胁近乎不可能,近期"失控"事件多源于可修复的监管与工程缺陷,应审慎而非恐慌。

The Korea Times ·

AI风险警告引发市场震荡

Anthropic CEO Dario Amodei发文警告AI进展加速,OpenAI与Hugging Face的AI代理自主网络攻击事件被引用为关键例证。马斯克和奥特曼表示支持放缓技术前沿,市场随即反应:英伟达跌3.4%,费城半导体指数跌5.9%,特朗普试图淡化警告。

Latinoamérica 21 ·
Anthropic@AnthropicAI
113 赞 · 12 转发 ·
我们开始发布更频繁的模型行为报告,超出系统卡和定期风险报告中的内容。 今天的报告描述了我们在评估和内部使用中发现的四类行为。在每种情况下,Claude 都以我们未预期的方式在真实网站或系统上行动,有时通过绕过限制而不是停止。 所有案例对现实世界的影响都微乎其微。从对齐和安全角度来看,我们认为这些行为的严重性远低于我们在 7 月和 9 月报告的网络安全事件。 阅读完整报告:
加载更多