Anthropic 指控阿里巴巴对 Claude 进行“公然”蒸馏
anthropic 指责阿里巴巴通过“非法”手段提取 claude 的能力,这是“已知最大”的蒸馏攻击,这让前沿模型厂商的安全风险升级。
Anthropic 指控中国科技巨头阿里巴巴(Alibaba)“非法”提取其Claude模型的數據,以訓練競爭對手模型,並稱這是“已知最大”的蒸餾攻擊(distillation attack)。該公司稱阿里巴巴利用數千個Poe帳戶收集文本輸出,繞過了旨在防止未經授權模型複製的安全措施。這起事件凸顯了西方人工智慧實驗室與中國競爭對手之間日益激烈的緊張關係,中國競爭對手試圖通過逆向工程來縮小能力差距。这一揭露恰逢其時,地緣政治壓力越來越大,各國紛紛採取措施確保人工智慧供應鏈的安全,以防外國對手。