斯坦福与伯克利推TokenGate长文本加速方案
来自斯坦福和加州大学伯克利分校的研究人员提出TokenGate,一种令牌门控注意力机制,可使长上下文预填充速度最高提升11.3倍。该方案有望降低长文本推理的计算成本。
UC Berkeley 是位于美国加利福尼亚州伯克利的公立研究型大学,其研究人员在人工智能领域有广泛参与。近期相关报道包括:与 Stanford 合作提出 TokenGate 注意力机制,使长上下文预填充最高加速 11.3 倍;该校教授、菲尔兹奖得主 Richard Borcherds 因学生普遍使用 AI 而停止批改作业;该校团队在 COLM 会议上发表随机对照试验研究,1222 名参与者中仅使用 AI 工具 10 分钟即显著削弱其在困难任务上的专注与坚持。
来自斯坦福和加州大学伯克利分校的研究人员提出TokenGate,一种令牌门控注意力机制,可使长上下文预填充速度最高提升11.3倍。该方案有望降低长文本推理的计算成本。
加州大学伯克利分校教授、菲尔兹奖得主Richard Borcherds表示不再批改学生作业。他发现大量学生用AI获得高分,认为雇人批改正确性已“没有意义”,AI使用已难以避免。
UC Berkeley团队在COLM会议发表同行评审研究,通过1222名参与者的随机对照试验发现,仅依赖AI工具10分钟就会显著损害人们专注和坚持困难任务的能力。研究者Brian Christian称这一发现印证了许多人的直觉担忧。