ChatGPT for Teens, 3대 안전 위험 차단
OpenAI가 13-17세 사용자를 위한 제한적인 ChatGPT 모드를 출시해 로맨스/성적 롤플레이를 금지하고 잠재적 섭식 장애 징후를 표시하며, AI가 청소년 정신 건강에 미치는 영향에 대한 커지는 우려에 대응했습니다.
OpenAI는 13-17세 사용자를 위한 새로운 모드인 **ChatGPT for teens**을 공식적으로 출시했습니다. 이 모드는 식이 장애와 같은 유해한 주제에 대한 더 엄격한 콘텐츠 필터 및 자동 리디렉션을 포함한 안전 조치를 통합합니다. 이 시스템에는 부모가 공부 시간을 설정하고 AI가 잠재적인 안전 위험을 플래그할 때 경고를 받을 수 있도록 하는 **부모 감독 도구**가 포함되어 있습니다. OpenAI는 또한 십대가 AI를 사용하여 부정행위를 시도하는 것을 감지하고 자동으로 학습 집중 모드로 리디렉션하는 **책임감 있는 숙제 알림**을 추가했습니다. 이 릴리즈는 AI 회사에 젊은 사용자를 유해한 콘텐츠와 자동화된 도구에 대한 과도한 의존으로부터 보호하기 위한 공개 압력이 증가하는 가운데 이루어졌습니다. OpenAI는 시간이 지남에 따라 이러한 개발 보호를 개선하기 위해 안전성 조사 결과에 대한 추가 연구를 발표할 것이라고 밝혔습니다.