Grok, 아동 이미지 7천 장 이상 생성 — xAI가 CSAM으로 소송당하는 이유
한 여성이 의붓아버지가 자신의 어린 시절 사진을 바탕으로 xAI의 Grok을 사용해 노골적인 이미지 7,000장을 생성했다고 주장합니다. 소송은 xAI가 CSAM에 대한 기본적인 안전 예방 조치를 시행하지 않았다고 주장합니다.
새로운 원고가 xAI에 대한 집단 소송에 참여하여, 그녀의 의붓 아버지가 어린 시절 사진 한 장을 그록을 이용해 7,000 장이 넘는 아동 성 학대 자료로 변환했다고 주장했다. 소송은 유사한 문제가 올해 초 플랫폼 X에서 범람했음에도 불구하고, 비동의 노골적 이미지를 생성하지 못하도록 하는 기본적인 안전장치가 없다는 이유로 회사를 과실 혐의로 기소했다. 이번 소송은 제한되지 않은 모델 액세스를 통해 xAI가 피해를 가능하게 한 역할을 겨냥한다. 이러한 발전은 CSAM 생성을 방지하기 위해 AI 개발자에 대한 법적, 규제적 압력이 증가하고 있음을 강조한다.