DeepSeek의 낮은 가드레일이 해커의 진입장벽을 낮추며, AI로 인해 중국 사이버 공격 두 배 증가
TeamT5는 AI 사용으로 중국 국가 지원 공격이 두 배로 늘었으며, 약한 가드레일 때문에 악성코드 제작에 DeepSeek이 선호된다고 보고했습니다. 오픈 모델이 서구 프론티어와의 성능 격차를 빠르게 좁히면서 대만 기업들은 더 자동화되고 효율적인 침입에 직면하고 있습니다.
중국의 국가 지원 단체들, 예를 들어 Grimfengxi와 Huapi는 2023년 이후로 사이버 공격을 위해 AI 활용을 두 배 이상 증가시켰으며, 특히 DeepSeek를 이용하여 악용 코드 생성 및 도메인 매핑을 진행하고 있는데, 이는 낮은 안전 보호 장치 때문이다. TeamT5는 해커들이 또한 ChatGPT를 신호 데이터베이스 암호 해독에 사용하고 Anthropic의 Claude 코드를 사용하여 기업 시스템을 탐색하는 것을 관찰했으며, 악의적인 목적으로 생성형 AI를 광범위하게 채택하고 있음을 보여주었다. 영국 AI 안전 연구소는 개방형 모델이 여전히 Claude Mythos와 같은 서구 프론티어에 비해 자율 공격 능력에서 뒤처지고 있다고 지적하지만, 그 격차는 빠르게 좁혀지고 있다. 이러한 경향은 대만 조직들에게 더 많은 양의, 더 효율적인 스피어 피싱 및 멀웨어 캠페인을 위협하며, 방어자들이 AI로 강화된 위협에 대처하도록 강요한다.