安全专家为何放弃前沿模型
anthropic 和 openai 的网络安全护栏正迫使攻击性研究人员使用不受监管的开源模型来识别漏洞。
包括Anthropic和OpenAI在内的AI实验室都实行严格的审查程序和防护措施，以防止像Mythos这样的模型被恶意用于网络攻击。然而，进攻性安全研究人员报告说，这些限制措施阻碍了合法的防御工作，例如确认代码漏洞。由于基于云的模型也存在泄露敏感的零日数据的风险，研究人员越来越多地避免使用前沿模型。相反，他们依靠没有安全过滤器的开源替代方案来进行必要的安全测试。