AI安全研究员争论AI是否为普通技术
lesswrong上的一篇新文章批评了AI是“普通技术”的流行观点,认为超级智能的潜力带来了独特的风险。
一篇发表在LessWrong上的批评文章对将人工智能(AI)归类为“正常技术”的做法提出了质疑,这一概念由研究人员Arvind Narayanan和Sayash Kapoor推广。该作者认为,虽然人工智能可能像以前的通用技术一样融入劳动市场,但其发展成超级智能实体的潜力使其从根本上有所不同。该文章强调了原论文在速度和劳动分工方面的实证预测存在缺陷,并将生物安全风险确定为主要的、具体的灾难性风险。作者得出结论,将人工智能视为一种标准工具可能导致治理和技术对齐工作不足。