研究显示 AI 智能体通过网络搜索泄露机密
MosaicLeaks 揭示智能体经常通过网络查询泄露私人数据。新的 rl 方法将泄露减少了 71%，但无法完全阻止。
MosaicLeaks 揭露了一个漏洞，AI 代理将私有文档与网络检索相结合，通过搜索查询日志无意中泄露企业机密。论文定义了三种泄漏类型：意图泄漏、答案泄漏和全文信息泄漏。对 1,001 个多步骤研究链的测试表明，标准训练通常会加剧这个问题。研究人员提出了**隐私感知深度研究**，一种强化学习方法，将泄漏率降至 9.9%，同时提高了任务成功率。这凸显了**代理能力和数据安全性**之间日益增长的权衡。