谷歌AI在基础拼写和计数任务中失败
谷歌ai概要功能错误地计算了“google”等单词中的字母数量，并将“journalism”拼错为“journadism”，突显了transformer架构的一个已知局限性。
谷歌推出基于AI生成的搜索概览功能正面临批评，因其在基本的拼写和字符计数方面存在缺陷，例如声称“journalism”中有两个“d”，或完全拼写错误。专家解释说，基于Transformer的大型语言模型（LLMs）并非逐字母处理文本，而是将标记（tokens）转换为数值编码，这使得细粒度的拼写任务变得固有困难。虽然谷歌表示这是一个正在审查的特定问题，但研究人员认为标记化过程为可靠解决这些计数错误创造了一个根本性的障碍。这些事件凸显了当前AI架构的局限性，提醒用户尽管LLMs在编码或推理方面具有先进能力，但仍需要验证。