llm只是数学——用《帝国时代》的山羊也能复现gpt
微软研究员在《帝国时代ii》中用山羊构建了一个可运行的神经网络,证明llm仅仅是计算,而非具备感知的实体。
微软研究员 Adrian de Wynter 在《帝国时代 II》中构建了一个可运行的神经网络,使用不同地形上的山羊作为二进制比特,进行诸如 XNOR 和 AND 等逻辑运算。这个实验证明了大型语言模型的智能纯粹是计算性的,与其运行的载体无关,这意味着由乐高积木搭建的系统或人们通过短信交互的系统,其输出结果与 GPT 相同。对 315 篇 AI 论文的分析发现,其中 57% 假设模型具有类似人类的特征,如恐惧或同理心,de Wynter 认为这导致研究中出现循环推理。批评强调,聊天机器人的“人性”是一种低延迟和聊天接口的产物,而非其底层数学。