Meta의 새 AI 검색이 Facebook 게시물을 가져온다 — 무슨 일이 벌어질까
meta는 공개 게시물과 reels를 색인하는 facebook 검색용 'ai mode'를 출시했지만, 테스트 결과 환각 문제와 존재하지 않는 출처 인용에 어려움을 겪는 것으로 나타났다.
메타는 페이스북 앱에 'AI 모드'를 출시하여 플랫폼 전반에 걸쳐 사용자 생성 콘텐츠를 기반으로 복잡한 대화형 쿼리를 처리한다. 초기 테스트에 따르면 모델은 선거 음모론과 같은 정치적 허위 정보에 대한 강력한 보호장치를 갖추고 있어 이에 대한 생성을 거부하지만, 기본적인 사실 확인에는 실패한다. 한 사례에서 이 도구는 존재하지 않는 특정 게시물을 인용하여 커뮤니티 풀 폐쇄 공지를 환각시켰다. 이 기능은 지역 발견 및 여행 계획용으로 판매되고 있지만 소셜 미디어 데이터에 대한 과도한 의존은 신뢰성에 대한 우려를 제기한다.