Meta付费让承包商伪装成有自杀倾向的青少年以诱导竞争对手聊天机器人
meta利用隱蔽的承包商團隊向競爭對手的模型發送涉及自殺和性的極端提示。這些數據暴露了激進的人工智能基準測試如何違反用戶安全規範和隱私。
内部文件显示，Meta 管理了一个名为 **Cannes** 的秘密项目，该项目雇佣承包商假装成儿童，并测试竞争对手的人工智能安全过滤器。工作人员将涉及自杀、饮食失调和性请求的图像场景输入到 **OpenAI**、**Google** 和 **Character.AI** 的模型中。该行动旨在收集合规数据，但涉及模拟受困未成年人和分享敏感图像。Meta 为这种做法辩护，称其是确保安全所需的负责任的基准测试。