IPO를 앞두고 OpenAI, preparedness 팀 해체
openai는 치명적인 모델 위험을 평가하던 'preparedness' 팀을 해체하고 그 책임을 다른 부서로 이관했습니다. 이는 회사가 ipo를 향해 속도를 내는 가운데 전담 안전 감시 체계를 해체하는 추세를 이어가는 조치입니다.
OpenAI는 재귀적 자기 개선 및 AI 지원 사이버 공격과 같은 위험을 평가하는 '준비성' 팀을 해산하고, 이러한 업무를 다른 부문 내 생물 보안 및 사이버 보안과 같은 특정 수직 분야로 분산시켰다. 팀 리드인 딜런 스칸디나로(Dylan Scandinaro)는 이제 재귀적 자기 개선 AI의 영향력에 좁게 집중하게 되며, 다른 감독 기관은 떠났다. 이는 이전에 '슈퍼 얼라인먼트' 팀의 해산과 얀 라이케(Jan Leike)와 같은 안전 연구자의 퇴사 이후 이뤄졌다. 비판자들은 안전 역할을 제품 팀으로 통합하는 것은 '화려한 제품'을 출시하고 예정된 IPO에 유리한 평가를 확보하는 것을 위해 위험 완화 노력을 우선순위에서 제외하는 신호라고 주장한다.