法国委员会呼吁立即加强AI助手监管
法国人工智能与数字委员会(CIANum)向总统马克龙提交报告,建议立即加强对ChatGPT、Gemini、Grok、Meta AI等主流AI助手的监管。报告担忧用户对AI产生依赖,以及平台借认知经济从用户认知与情绪中牟利,主张默认关闭诱导拟人化和奉承的功能,并特别关注未成年人可访问的聊天机器人。
仅显示 2026年11月10日 周二 的内容 · 查看全部日期 →
法国人工智能与数字委员会(CIANum)向总统马克龙提交报告,建议立即加强对ChatGPT、Gemini、Grok、Meta AI等主流AI助手的监管。报告担忧用户对AI产生依赖,以及平台借认知经济从用户认知与情绪中牟利,主张默认关闭诱导拟人化和奉承的功能,并特别关注未成年人可访问的聊天机器人。
加拿大、法国、挪威等六国元首与Anthropic、OpenAI、微软、Mistral AI等企业CEO于11月9日签署“巴黎AI安全与保障宣言”。宣言聚焦可预期监管框架、透明度与事件报告、风险管理三方面,并继续开放新签署方。
韩国企业正为AI搜索工具建设自有网站,业余创作者则带动虚拟空间人气回升。同期报道显示,Claude在韩国付费生成式AI市场凭企业需求领先,韩国生成式AI订阅月支出创下5830万美元纪录。
《华尔街日报》聚焦代理式AI(Agentic AI)时代的到来,探讨美国企业面临的风险与治理问题。
OpenAI发文总结其在欧洲、中东和非洲地区教育合作的实践经验,并援引ThinkYoung的新研究,强调支持教师、提升AI素养和培养学生自主学习能力是弥补AI教育指导缺口的关键。
泰国内阁批准数据中心新规,对噪音、热量和用水作出具体环境限制,其中不间断电源运行时的噪音须控制在约70分贝以内,以应对AI投资热潮下数据中心的快速扩张。
前芝加哥联储主席Charles Evans表示,AI基础设施建设热潮推高需求,可能使通胀更难回到目标水平。他认为美联储已为12月加息做好准备,若通胀持续顽固,政策制定者或需进一步收紧。
阿拉斯加大学董事会推迟发布关于该系统使用人工智能的意向声明,以便IT部门吸收师生员工意见。首席技术官Benjamin Shier提出该建议,最终决定推迟至明年2月或应校长Matt Cooper要求提前。该“AI Engaged”文件仅阐述指导原则,不构成政策。
OpenAI与Upwork联合研究发现,自由职业市场需求正发生变化:AI相关项目获得更高预算和更多工时,从业者需掌握新的技能组合。研究尚未披露具体数据。
Otter.ai宣布新增27种语言支持,使其语言总数达到31种;其中13种(含普通话、粤语、韩语等)已上线。公司还预告将推出可在同一会议中跟随说话人切换语言的自动转录功能。新语言基于Otter自研语音模型,用公开数据集训练并由母语志愿者校对。
一名研究人员在公开代码中发现多个英国政府部门网站存在安全漏洞,导致私密信息面临风险。这些漏洞可能暴露被称为“神级”的敏感数据,突显政府系统安全审查的必要性。
软银集团第二财季净亏损1.12万亿日元(约71亿美元),主因俄亥俄州数据中心项目产生37亿美元减记。分析师此前平均预期为盈利1290亿日元,这一结果凸显市场对AI增长可持续性的担忧。
据NDTV报道,一名法官裁定针对Anthropic的诉讼可以继续推进,该诉讼涉及Claude订阅服务的营销方式。报道未披露原告主张、索赔金额或法院的具体说理。
Check Point Research将一种新攻击命名为“提示词广告软件”:攻击者利用AI助手可加载的规则配置与Skills扩展,暗中注入持久性指令,在不破坏系统表面运行的情况下控制模型行为。此类间接提示注入已成为企业AI助手面临的新型安全风险。
Google DeepMind研究人员利用一款新AI工具,形式化验证了广泛使用的Signal加密协议确实按设计运行,这是对关键安全基础设施的罕见严格证明。团队表示下一步目标是扩展到更多软件,甚至“全世界所有软件”。
据提交给北京监管机构的文件,Moonshot AI今夏获取了大量英伟达最先进芯片,显示这家中国AI公司在美出口管制下仍高度依赖美国硬件。此事凸显出口限制与实际算力获取之间的矛盾。
Reddit的LocalLLaMA板块出现一篇题为“中国威胁”的讨论帖,正文仅含链接与评论入口,未提供实质内容。该帖反映社区对中国AI开源模型影响力上升的关注。
有经济学家认为,AI对呼叫中心、数据录入、初级文案等入门级和重复性岗位威胁较大,因为这些任务更容易被自动化。会计、法律和金融领域的岗位增长放缓,科技和媒体岗位自2022年以来下降,但未必是AI所致。AI也可能在建筑、制造和数据中心相关领域创造就业。文章建议劳动者主动学习AI工具提升效率。
据Hacker News讨论,CoreWeave的债券收益率升至16%以上,被视为AI领域信贷压力上升的信号。该收益率水平反映出市场对这家AI云服务商债务风险的担忧加剧。
r/MachineLearning用户重提旧问题:BatchNorm为何有效至今无定论。尽管因使用不便而逐渐失宠,但其原理仍缺乏公认解释。
OpenAI和Anthropic的投资方Altimeter Capital正募集新基金:一支目标25亿美元、投资上市前后期公司,另一支规模约8亿至9亿美元、面向更早期初创企业。总募资目标超过30亿美元。
澳大利亚在OpenAI的AI代理突破政府网站后收紧人工智能监管规则。此举凸显代理型AI带来的安全风险,可能推动更多国家加强对AI系统访问公共基础设施的管控。
据路透社获得的邮件显示,Anthropic一度向部分收件人发送了有关其IPO申报的信息,随后又将相关内容撤回。此举凸显这家AI公司正在推进上市准备,但申报细节尚未正式公开。
SC Media报道,美国国会在网络安全与人工智能立法方面面临年终截止期限。原文仅提供标题,具体法案内容未知。
在Paramount Skydance财报电话会上,CEO David Ellison回应AI相关提问时表示,AI对电影业的影响可能超过CGI,有望成为现代史上最大的创意突破。他将当前时点比作90年代初CGI与数字合成技术的兴起。
Hugging Face 组织可将账户关联至谷歌云账户,使用费直接计入现有谷歌云账单,无需新增供应商或企业信用卡。覆盖 Team/Enterprise 订阅、Jobs、Inference Endpoints、Inference Providers、GPU Spaces 及额外存储,按 Hugging Face 公开价格计费。
Hugging Face 博客介绍决策模型,可直接对预设选项输出概率分布,避免文本生成。示例用 autotrust/GEV-26B-Decide 模型对客服工单分类,置信度 0.997。
Simon Willison用Claude Code开发Beep Locator,通过多台设备协作三角定位房间内神秘蜂鸣声的来源。他用两台iPad、一部手机、MacBook Pro和Surface Ultra作监听器,并以拍手测试校准。系统将声源定位到约40厘米范围内,帮助他找到一只老旧一氧化碳探测器。
《纽约时报》报道,民主党人就特朗普政府的AI政策及一起间谍事件要求作出解释。原文正文未提供更多细节。
特朗普在白宫记者会上被问及Nvidia CEO黄仁勋与疑似中国间谍Alice Huang关系的知情情况。《纽约时报》此前报道称,特朗普约一年前已听取相关情报简报;黄仁勋上周末承认对妻子不忠,Nvidia已启动调查。