对 Bengio 科学家 AI 提议的批评

对 Yoshua Bengio 的“科学家 AI”提案的详细批评认为，该计划在安全性和实用性方面都有缺陷。作者断言，非代理 AI（non-agentic AI）如果没有因果推理（causal inference），就无法可靠地进行科学研究，而因果推理需要强化学习（reinforcement learning）中的主动数据收集。此外，批评还认为，从根本上限制 AI 采取行动会大大降低其智能，相较于代理模型（agentic models）。尽管有这些批评，作者支持 Bengio 关注短期内微调大型语言模型（LLMs），以假设用户请求相关的风险。