Amodei 称开源权重模型很危险——但他否认想要禁止它们

Anthropic 首席执行官 Dario Amodei 详细描述了他的“噩梦情景”，即中国利用更先进的人工智能实现军事优势，或者恶意行为者利用开放权重来设计生物武器，他认为在生物领域，防御-进攻平衡严重偏向于进攻方。他建议采取具体的政策措施，包括对中国实施更严格的美国芯片出口管制，以及对所有强大的模型强制进行安全测试，同时指出低能力开放模型仍然是公共物品。这一立场加剧了开源倡导者和封闭模型实验室之间的冲突，恰逢OpenAI 私下里游说反对开放权重，尽管最近签署了一份支持他们的信。