为什么 Sora 无法通过杯子测试:世界模型需要心智理论
一篇新论文提出了心智世界建模,通过追踪信念和目标来预测人类行为,而像 Sora 这样的当前视频模型无法做到这一点。
一篇新的研究论文提出了**精神世界建模(MWM)**,这是一个扩展世界模型的框架,包含了诸如信念、意图和社会规范等精神变量,而当前的模型,如 **Sora** 和 **Genie** 忽略了这些变量。作者们证明了纯粹的物理世界模型在人类信念与现实情况不符的场景中预测出错误的行动,并以一个被移动的杯子为例来突出这种差距。为了验证该理论,他们发布了 **Mentis**,一个无需训练的流程,根据精神一致性和社会适当性对行动进行评分,并附上了包含 **448** 个决策场景的 **Menti-Bench** 数据集。在对 **8** 个领先的大型语言模型(LLM)的评估中,包括不同版本的 **GPT** 和 **Claude**,结果表明现有的模型难以完成这些任务,这意味着更多的计算资源并不能取代自主代理中显式精神建模的需要。