限制硬件可能导致不安全的通用人工智能
限制人工智能硬件以防止通用人工智能,可能会无意中导致只有不道德的人工智能成为可能,因为安全系统需要更多资源。
LessWrong 分析揭示了限制硬件制造节点(例如,28nm)或浮点运算以阻止 AGI 的提案中存在一个关键缺陷。因为一个合乎道德的 AGI 必须处理诸如“哪些原子被其他生命体使用”之类的复杂变量以避免造成伤害,所以它的最低硬件需求($l_{eagi}$)超过了无约束的、可能致命的 AGI($l_{agi}$)。因此,在这两个限制之间设置硬件上限确保了任何制造出来的 AGI 都能够运行,但却无法进行道德推理,从而导致 100% 的不安全结果。