AI 의사가 TikTok Shop 사기에서 리콜된 보조제를 팔아치우다
소송에 따르면 20대 YouTuber들이 AI로 생성한 의사를 이용해 TikTok Shop에서 리콜된 보조제를 판매했으며, 규제되지 않은 시장을 악용한 혐의다.
Humann은 Ambrosia Brands를 상대로, 구글이 개발한 `Veo 3`, `Heygen`, `ElevenLabs`와 같은 AI 도구를 사용하여 가짜 의사들을 만들도록 수십 명의 인플루언서들을 지시했다는 혐의로 고소했다. 이 AI 인플루언서들은 경쟁업체의 대본을 훔쳐서 `Rosabella` 건강 보조 식품을 홍보했으며, 수십만 달러의 수수료를 챙겼다. 이 계획의 대상이 된 제품은 나중에 FDA에 의해 리콜되었으며, 생성형 AI가 규제되지 않은 웰니스 산업에서 대규모 사기를 가능하게 하는 방법을 보여주었다.