Bengio氏の「Scientist AI」提案への批判
Yoshua Bengio氏の「Scientist AI」提案に対する批判では、AIを非エージェント的な役割に限定することは、科学的発見において安全でないだけでなく非現実的であると論じられている。
ヨシュア・ベンギオの「科学者AI」提案に対する詳細な批判は、計画が安全性と実用性の両方の理由で欠陥があると主張している。著者は、非エージェントAIは、因果推論なしで科学を信頼性高く実行することはできず、強化学習で見られる能動的なデータ収集を必要とすると主張している。さらに、批判は、AIが行動を取ることを制限することは、エージェントモデルと比較して、その知能を根本的に制限することを示唆している。これらの批判にもかかわらず、著者は、LLMを微調整して、ユーザーの要求に関するリスクを仮説化することにベンギオが短期的に焦点を当てていることを支持している。