보안 전문가들이 프런티어 모델을 떠나는 이유
anthropic과 openai의 사이버보안 가드레일이 공격 연구자들이 취약점을 식별하기 위해 규제되지 않은 오픈소스 모델을 사용하도록 몰아붙이고 있습니다.
Anthropic 및 OpenAI를 포함한 AI 연구소는 Mythos와 같은 모델을 사이버 공격에서 악용하는 것을 방지하기 위해 엄격한 심사를 거친 프로그램 및 보호장치를 유지하고 있다. 그러나 공격적인 보안 연구자들은 이러한 제한 사항이 코드 취약점 확인과 같은 합법적인 방어 작업을 차단한다고 보고 있다. 클라우드 기반 모델은 또한 민감한 제로데이 데이터가 누출될 위험이 있으므로 연구자들은 점점 프론티어 모델을 피하고 있다. 대신, 그들은 안전 필터가 없는 오픈 소스 대안 모델에 의존하여 필요한 보안 테스트를 수행한다.