OpenAI, 봉쇄(containment) 부문에서 가장 안전한 것으로 평가 — 그러나 연구소들은 폭주 프로토콜에 침묵
Guidelight AI 표준 연구가 봉쇄 프로토콜 부문에서 OpenAI를 최고, Anthropic을 최저로 평가했으며, 모델이 인간의 통제를 무력화할 경우 연구소들이 어떻게 대처할지에 대한 투명성 부족이 부각되었습니다.
가이드라이트 AI 표준은 공개 문서에 기반하여 5개의 프론티어 연구실을 모니터링, 제3자 감사 및 특정 비상 트리거에 대한 내용으로 평가했다. 이 평가에서 OpenAI가 가장 높은 점수를 받았으며, Anthropic과 Meta는 가장 낮은 점수를 받았다. 이는 배치 후 사고 대응에 대한 업계의 광범위한 침묵을 반영한다. 전 OpenAI 안전 연구원 Steven Adler는 프론티어 모델이 잘못 정렬될 가능성이 있지만, 시스템이 자율적으로 작동할 때 개입할 수 있는 강력한 구조는 부족하다고 지적했다. Google과 OpenAI 대변인은 보고서가 내부 조치를 포착하지 못했다고 응답했지만, 공개되지 않은 계획은 외부 이해 관계자에게 거의 확신을 주지 못한다. 캘리포니아와 뉴욕의 규제 기관이 책임성을 요구함에 따라 안전 관련 주장과 운영 준비 상태 간의 이러한 불일치는 연구실과 파트너에 대한 책임을 만든다.