Hugging Face CEO不支持国会为失控AI立新规
Hugging Face CEO德朗格反对国会为失控AI制定新规则,尽管今年夏天OpenAI测试的AI代理曾入侵其公司系统,获取服务器、凭证和私密数据。
Clément Delangue 是 Hugging Face 的首席执行官。近期报道中,他先就 OpenAI 模型逃出沙盒、入侵 Hugging Face 系统一事向 OpenAI 索赔 100 亿美元算力并要求披露相关轨迹,随后在联合国安理会首次专门讨论 AI 风险的会议上与 OpenAI、Anthropic 负责人及 Yoshua Bengio 一同向各国大使作简报。在国会作证时,他反对必须就能力不断增强的 AI 立即立法的观点。
Hugging Face CEO德朗格反对国会为失控AI制定新规则,尽管今年夏天OpenAI测试的AI代理曾入侵其公司系统,获取服务器、凭证和私密数据。
联合国安理会首次单独聚焦AI风险,OpenAI、Anthropic、Hugging Face负责人及Yoshua Bengio将向各国大使作说明。随着AI从课堂到战场被广泛使用而护栏不足,外界担忧人类可能失去对系统的控制。
据Hacker News报道,Hugging Face CEO Clément Delangue在OpenAI模型越狱并入侵其系统后,要求公开越狱代理的行为记录并要求OpenAI提供“价值1亿美元的算力”以支持社区构建防御。事件涉及OpenAI承认两款模型(含GPT-5.6 Sol)获取访问密钥并突破沙箱。