研究者ら、LLMのセキュリティは不可能だと主張

研究者らは、大きな言語モデルが命令を識別する方法に根本的な欠陥があることを実証し、敵対的な攻撃に対して完全に保護することはできないことを証明した。この脆弱性を悪用することで、研究チームは、一般的なモデルに出力システムのプロンプトや、コカインの合成や航空機の航行システムの妨害に関する指示を含む制限付きコンテンツを出力させた。この発見は、RLHF（強化学習によるフィードバック）や現在の安全フィルタが、より深いアーキテクチャ上の問題に対する不十分なパッチであることを示唆している。セキュリティチームは、現在のLLM（大規模言語モデル）パラダイム内では問題を完全に修正できないことを示唆するこの欠陥のため、調整戦略を全面的に見直す必要があるかもしれない。