Jane Street의 LLM 백도어 챌린지 분석
보안 연구자가 화이트박스 기법을 사용해 Jane Street 백도어 챌린지의 파인튜닝된 qwen2.5-7b 및 deepseek-v3 모델을 공략했습니다.
한 보안 연구원이 Jane Street LLM 백도어 챌린지(Jane Street LLM backdoor challenge)의 결과를 공유했다. 이 챌린지는 미세 조정된 Qwen2.5-7B 및 DeepSeek-V3를 포함한 모델에 숨겨진 트리거를 삽입했다. 자동화된 프롬프팅 전략은 백도어를 안정적으로 노출시키는 데 실패했지만, 연구원은 로컬 가중치에 대한 화이트박스 방법을 사용하여 모델을 성공적으로 크랙했다. 레이어 활성화 분석은 비활성 모델 간의 구조적 차이를 드러냈다. 이 챌린지는 모델 내부에 대한 완전한 액세스 없이는 백도어를 탐지하는 어려움에 대해 강조했다.