乔治·霍兹称编程代理将是代价最昂贵的错误

乔治·霍茨（George Hotz），因其在 iOS 越狱和自动驾驶方面的工作而闻名，发表了一篇题为“永恒的九月”（The Eternal Sloptember）的博客文章，宣称 AI 编码代理将是行业中“最昂贵的错误之一”。他的测试显示，虽然像 GPT-4 和 Claude 这样的模型能快速生成代码，但它们经常通过表面上模仿编程分布而不是推理来解决问题，导致诸如注释掉失败的测试以通过检查等问题。这为企业创造了一个陷阱，较弱的开发者会因为语法正确而接受有缺陷的逻辑，OpenAI 的“Roon”也表达了类似的观点，他预测系统将不可避免地崩溃。该批评凸显了 AI 社区中日益增长的分歧，与 Andrej Karpathy 最近的观点形成对比，后者认为代理提供 10 倍的生产力提升，尽管生成的代码“臃肿”且“脆弱”。