Metaの新AI検索がFacebookの投稿を参照——何が問題になり得るか
MetaはFacebook検索向けに公開投稿やReelsをインデックスする「AIモード」を開始したが、テストではハルシネーションや存在しない情報源の引用に苦戦する様子が見られた。
Metaは、Facebookアプリで「AIモード」を導入し、プラットフォーム全体のユーザーが生成したコンテンツに基づいて回答することで、複雑で会話的なクエリを処理できるようにした。初期テストでは、モデルには選挙陰謀論の生成を拒否するなど、政治的誤情報に対する強力なガードレールが備わっているが、基本的な事実検証には失敗している。ある事例では、ツールは存在しない特定の投稿を引用して、コミュニティプールの閉鎖通知を幻覚した。 この機能は、ローカルディスカバリーや旅行計画に活用されると宣伝されているが、ソーシャルメディアデータへの依存が重いため、信頼性に関する懸念が生じている。