DeepMind的Zahavy:LLMs无法跳跃,但世界模型或许可以
google deepmind的tom zahavy发表了'llms can't jump',认为语言模型缺乏真正的科学发现和理论发明所需的'操纵性溯因'。
谷歌DeepMind的Tom Zahavy发表了“LLMs Can't Jump(大型语言模型无法跳跃)”,认为语言模型缺乏“操纵性溯因推理(manipulative abduction)”所需的认知机制,而这种机制是真正的科学发现所必需的。Zahavy认为,LLMs在演绎和归纳方面表现出色,但无法进行创造性的飞跃,以在没有预先存在的语言模板的情况下发明新的公理。他以爱因斯坦为例,爱因斯坦通过具身模拟(embodied simulation)推导出相对论,而不是通过数据优化,这意味着未来的进步需要整合世界模型或具身AI,而不是扩大统计模式识别。