Hinton称开源权重助长网络攻击 — 但承认大势已去
geoffrey hinton、fei-fei li和andrew ng在ai4大会上主张保持ai开放以防止垄断，尽管hinton担心开放权重降低了网络攻击的门槛。
在 AI4 上，Andrew Ng、Fei-Fei Li 和 Geoffrey Hinton 敦促行业保持对 AI 的开放访问，以避免主要实验室的垄断控制，将潜在的整合比作苹果和谷歌在移动领域的支配地位。Hinton 通过区分开源代码和开放权重阐明了他的立场，认为发布训练后的模型权重会使恶意行为者更容易、更廉价地发动网络攻击。尽管存在这些风险，Hinton 承认对抗开放权重模型的战斗已经失败，访问基础模型的壁垒已经永久消失。Ng 将这个问题框定为地缘政治竞争的问题，认为在美国限制开源 AI 可能会允许中国模型在发展中国家不受限制地传播。