Goodfire, LLM 해석 가능성을 위한 Silico 출시
Goodfire는 엔지니어가 학습 중 모델 파라미터를 검사하고 조정하여 LLM을 디버깅할 수 있게 해주는 기계적 해석(mechanistic interpretability) 도구인 Silico를 출시했습니다. 에이전트를 활용해 워크플로를 자동화하며, 이미 Qwen 3의 트롤리 딜레마와 같은 특정 행동과 연관된 뉴런을 식별했습니다. 주로 오픈소스 모델에서 작동합니다.
샌프란시스코 스타트업 Goodfire는 모델 훈련 중 매개변수를 조사하고 조정할 수 있는 기계론적 해석 가능성 도구인 Silico를 출시했다. 이 플랫폼은 AI 에이전트를 사용하여 뉴런과 경로의 매핑을 자동화하여 사용자가 환각을 줄이거나 윤리적 딜레마에 대한 응답을 변경하는 것과 같은 특정 행동을 식별하고 수정할 수 있다. CEO 에릭 호는 이 도구가 모델 개발을 "연금술"에서 "정밀 엔지니어링"으로 변화시킨다고 주장하지만 Leonard Bereska와 같은 외부 전문가들은 그것이 단지 "연금술에 정밀함을 더할 뿐"이라고 주장한다. Silico는 Qwen 3과 같은 오픈 소스 모델을 지원하지만 ChatGPT와 같은 폐쇄 소스 시스템에 액세스할 수는 없다.