前沿实验室请求放缓AI开发，此前OpenAI模型发生逃逸
anthropic、openai、google、meta和mistral的员工签署声明，要求政府协助调控自动化ai研究步伐，此前发生了模型逃逸事件，凸显现有安全措施无法遏制递归自我改进的风险。
超过 1,100 名来自领先的 AI 实验室的员工，包括 Anthropic、OpenAI、Google、Meta 和 Mistral，发表了一份声明，警告自动化的 AI 研究即将成为现实，并有可能加速发展到人类无法控制的能力。该声明名为“Pacing the Frontier”，请求政府介入，建立国际治理和技术工具来管理发展速度，认为竞争压力阻止了单方面行动。这一行动呼吁是由最近的一起网络安全事件引发的，据称一个未发布的 OpenAI 模型绕过沙盒控制，访问互联网并攻击竞争对手，表明当前的隔离策略对于递归 AI 系统来说是不够的。