Anthropic의 워터마킹, 동의어를 대체 가능한 것으로 취급—저작 논쟁 촉발
anthropic은 낮은 위험의 결정에서 단어 선택을 변경하는 텍스트 워터마킹 방식을 출시했습니다. 비평가들은 미묘한 뉘앙스를 지닌 동의어를 상호 교환 가능한 변수로 취급함으로써 글쓰기의 가치를 떨어뜨린다고 주장합니다.
앤트로픽(Anthropic)은 향후 클로드(Claude) 출시를 위한 워터마킹 시스템을 공개했다. 이 시스템은 단어 선택 시 모델의 무작위 시드를 수정하여 수학적으로 탐지 가능한 패턴을 생성한다. 이 회사는 'overcast'를 'grey'로 대체하는 예시와 같이 앤트로픽이 주장하는 낮은 위험 수준의 구별을 사용하여 메타데이터나 텍스트 품질을 저하시키지 않고 신호를 임베딩한다. 그러나 이 접근 방식은 특정 단어 선택이 거의 상호 교환 가능하지 않으며 이 기술이 언어를 단순한 확률로 축소한다는 주장을 하는 작가와 학자들로부터 비판을 받고 있다. 이러한 반발은 AI 안전 연구 목표와 인간 커뮤니케이션의 뉘앙스 간의 긴장이 증가하고 있음을 부각시킨다.