연구, 미러 라이프(mirror life) 같은 신종 위협 관련 LLM 안전 공백 조명
한 독립 AI 안전 연구 프로젝트가 대형 언어 모델이 공식 분류가 없는 미러 라이프(mirror life) 같은 신종 위협에 대한 'uplift'를 인식하고 제공을 거부할 수 있는지 테스트하고 있습니다.
이번 연구는 기술적 현실이 법적 정의를 앞서는 '분류 격차(classification gap)'를 다루고 있으며, 이는 AI 안전 메커니즘에 사각지대를 만든다. 저자는 어휘 트리거링 및 원칙적 추론을 포함한 위협을 식별하는 모델에서 사용하는 다섯 가지 메커니즘을 설명하지만, 시스템이 종종 기관 편견을 물려받는다고 지적했다. 명시적인 레이블이 없으면 모델은 미러 라이프와 관련된 화학 전구물질 또는 기술 지침에 대한 요청을 거부하지 못할 수 있으며, 이는 정렬 전략에서 중요한 취약성을 강조한다.