AI安全研究者ら、AIは「普通のテクノロジー」なのかを議論
lesswrongの新しいエッセイは、aiが「普通のテクノロジー」であるという一般的な見方を批判し、超知能の可能性が固有のリスクを生み出すと主張している。
LessWrongに掲載された批評は、研究者Arvind NarayananとSayash Kapoorによって普及した概念である「通常の技術」としてのAIの分類に異議を唱えている。著者は、AIは以前の汎用技術と同様に労働市場に統合されるかもしれないが、超知能エンティティへと発展する可能性は本質的に異なるものにしていると主張している。批評は、オリジナルのエッセイの経験的予測に関する欠陥を指摘し、速度と労働の分割に関して、また、生物安全保障を主要な具体的壊滅的リスクとして特定している。著者は、AIを標準的なツールとして扱うことは、ガバナンスと技術的整合性への取り組みを不十分なものにする可能性があると結論付けている。