영국 경찰이 범죄 예측 머신을 구축 — 그러나 일부 결과는 신뢰할 수 없었다
조사에 따르면 Avon and Somerset 경찰이 23개 이상의 ML 모델로 시민의 위험도를 평가했으며, 그중 2개는 신뢰할 수 없는 결과로 폐기됐다. 이는 예측 치안 분야의 투명성 위기를 드러낸다.
에이번 및 서머싯 경찰은 23개 이상의 머신러닝 모델을 특징으로 하는 방대한 예측 경찰 프로그램(predictive policing program)을 구축하여 거의 50만 명의 사람들을 정신 건강, 주택, 학교 급식 등에 대한 데이터를 사용하여 절도 및 가정 폭행과 같은 범죄를 예측했습니다. WIRED 조사에 따르면, 관계자들은 결과에 더 이상 신뢰할 수 없다고 판단한 후 이러한 위험 평가 모델 중 최소 2개를 조용히 폐기했으며, 정부 감사관은 투명성 부족이 책임성을 약화시킨다고 경고했습니다. 이러한 '위험 점수'의 시민에 대한 공개는 불일치했고, 커뮤니티 활동가 존 페그람(John Pegram) 과 같은 사람들 로부터 법적 문제 제기를 불러 일으켰는데, 이들은 동의 없이 이러한 감시 목록에 올라 있다고 의심합니다. 이 사례는 종종 검증 메커니즘 및 법적 프레임워크를 능가하는 AI의 배치로 인해 법 집행 기술의 위기가 증가하고 있음을 나타냅니다.