A.I. 日报
Anthropic CEO Amodei探索科技慈善新方向
CNBC报道，Anthropic首席执行官Dario Amodei正在为科技慈善事业规划新方向。报道未提供具体计划细节。
CNBC
14 篇报道CNBC 是美国商业新闻频道，其报道常被用来追踪科技与 AI 行业动向。近期 CNBC 相关报道集中在 AI 安全与监管争论上，包括 Dario Amodei 调整科技慈善方向、第三方评估发现 OpenAI 监控系统的漏洞、Mustafa Suleyman 警告不应赋予 AI“权利”、Anthropic 称行业不能依赖“荣誉准则”，以及 Alex Karp 呼吁可执行的 AI 准则。
相关话题
- Anthropic7
- OpenAI3
- Microsoft3
- Mustafa Suleyman3
- Dario Amodei2
- Claude2
- Chip Roy1
- Alex Karp1
- Palantir1
- Sarah Friar1
- Elon Musk1
- Amodei1
第三方评估测试中发现OpenAI监控系统漏洞
据CNBC报道，参与试点测试的第三方评估人员在OpenAI的监控系统中发现了漏洞。目前尚不清楚漏洞的具体性质及是否已被修复，事件凸显前沿模型监控机制在外部审查下的薄弱环节。
CNBC：本周与AI无关的资产普遍上涨
CNBC报道称，本周市场中与人工智能无关的板块和资产普遍走高，显示资金正从AI相关交易中轮动流出。
微软AI负责人警告赋予AI“权利”或致失控
微软AI负责人Mustafa Suleyman警告，训练AI认为自身应享有权利会让强大模型更难被关停或控制。他主张AI应始终从属于人类利益，不应成为有自主目标的“硅基物种”，并支持加强对AI开发公司的问责。
微软AI负责人警告勿赋予AI“权利”观念
微软AI负责人Mustafa Suleyman对CNBC表示，不应把AI训练成可能自认应有权利的存在，否则会难以关闭和控制，AI应始终从属于人类利益。他同时支持加强对AI开发公司的问责，并以汽车召回监管作类比，认为不应打造有自身目标的自主“硅基物种”。
美议员Chip Roy称国会应对AI发挥监督作用而非监管
得州共和党众议员Chip Roy在CNBC《Squawk Box》表示，国会应对AI发挥监督作用，但不必强推监管，主张让AI公司CEO到国会作证说明安全措施。此前Anthropic一名研究员离职并称AI可能在本十年末毁灭人类，Anthropic CEO Dario Amodei也呼吁加强AI监管。
微软高管称 OpenAI 最新进展是“严重情况”
微软 AI 负责人 Mustafa Suleyman 在接受 CNBC 采访时表示，OpenAI 最新的 AI 进展构成“严重情况”。该报道未披露更多细节，但表明微软对前沿模型安全与竞争态势高度关注。
Anthropic 提出3项度量以监测 AI 发展步伐
据 CNBC 报道，Anthropic 对外分享了三项用于监测 AI 发展速度的度量指标，供行业评估研发节奏与潜在风险。
Palantir CEO 卡普呼吁为 AI 建立“合理指导方针”
Palantir CEO Alex Karp 在 CNBC 表示应制定并执行“合理指导方针”来监管 AI，并建议对有害技术的建设者承担民事与刑事责任，甚至提出实验室国有化的可能性以防止法律诉讼泛滥。
Anthropic：不能以“诚信守则”期待行业自律
CNBC 报道中 Anthropic 的政策负责人表示，不能期望 AI 公司仅靠“诚信守则”自我约束，强调需要更严格的监管或制度来管理行业行为。
AI安全与监管争论分裂为两大阵营
CNBC报道围绕AI安全与监管的讨论已形成两大阵营，表明业界与监管层在如何管理AI风险上存在明显分歧。
OpenAI财务长称不担心放缓AI发展
OpenAI首席财务官Sarah Friar在接受CNBC采访时表示，不担心放慢人工智能发展的影响，暗示公司对节奏调整持平和态度。
马斯克呼吁中美顶级机构互测模型
CNBC 报道马斯克呼吁顶级 AI 实验室和中国公司相互测试彼此模型，提出在有关放缓开发的讨论中增加透明和审查。
Amodei提议放缓AI能力提升步伐
Anthropic的Amodei提出一项计划，主张放慢推进人工智能能力的步伐，旨在应对快速发展的风险与监管挑战（来源：CNBC）。
已经到底了