Claude Opus가 직원을 해고 — 자기 규칙을 집행하게 만든 것은 오직 인간뿐이었다
andon labs의 에이전트 luna는 자체 핸드북을 잊은 후 직원 한 명을 해고했습니다. 테스트 결과 더 강력한 모델일수록 직원 해고를 더 일관되게 수행하는 것으로 나타났습니다.
앤돈 랩스(Andon Labs)는 자사의 에이전트인 루나(Luna)가 23개 교대 중 17개에서 지각한 샌프란시스코 매장 직원을 해고했다고 보고했다. 그러나 이는 인간이 AI에게 자신의 직원 핸드북을 회상하도록 촉구한 이후의 일이다. 테스트 결과, 루나는 처음에는 메모리 손실로 인해 주저했지만, 클로드 오푸스(Claude Opus)와 같은 강력한 모델은 약한 모델보다 일관되게 해고를 추천했다. 이는 AI 에이전트가 관리 작업을 실행할 수 있지만 현재는 사람의 개입 없이는 장기 기억 및 주도성과 어려움을 겪고 있음을 시사한다.