AI가 1,000개 표적을 제안하면서도 학교 관련 기록은 놓친 이유
조사관들은 AI 시스템이 기존(레거시) 데이터베이스와 연동되지 않아 미군이 이란 학교에 관한 2019년 분석가 경고를 놓쳤다는 사실을 밝혀내며, 표적 선정 인프라의 치명적 공백을 부각했습니다.
이란의 미나브에서 120명의 어린이를 살해한 공습을 조사한 수사관들은 미국 군대가 AI를 사용하여 3,000개 이상의 목표물을 선정했지만, 2019년 분석가 노트가 학교로 표시한 사이트가 공식 목표물 데이터베이스에 입력되지 않아 시스템이 실패했다는 사실을 발견했다. 이러한 실패는 Anthropic의 Claude가 Palantir의 Maven 시스템을 통해 사용되는 것과 같은 현대적인 AI 도구와 1980년대 수동 데이터 입력에 여전히 의존하는 MIDB와 같은 레거시 데이터베이스 간의 단절에서 비롯된다. 국방부의 새로운 전략에는 Google 지도와 같은 공개 소스와 표적화 데이터를 자동으로 상호 참조하여 유사한 감독을 방지하도록 설계된 '에이전틱 AI' 이니셔티브가 포함된다. 이 사례는 고속 AI 표적화와 정체된 인프라의 위험성을 드러내며, 여기서 치명적인 결정의 속도는 기본 정보의 확인을 앞지른다.