漏れやすいAIセーフティパイプライン

独立した研究者が、ACNS 2026 で採択された論文を発表し、AI セーフティ研究パイプラインの非効率性を浮き彫りにした。彼らは、MATS のようなフェローシップが存在する一方で、メンター不足がアスピラント研究者が生産的になることを妨げるボトルネックを作り出していると指摘している。著者は、ソロリサーチアプローチを批判し、LLM の過剰な依存が欠陥のある推論を強化する可能性があると警告している。代わりに、学習フレームワークとピアレビューされた貢献を生み出す間のギャップを埋めるために、ピアが互いにサポートするスケーラブルで高度にコラボレーションのあるモデルを提唱している。