Instinct 的‘魔法’AI 代理要求完全访问权——以及完全的数据所有权
由前 sierra 科学家 noah shinn 开发的高性能 ai 代理 instinct 要求广泛访问用户数据，却授予自己使用这些数据的不可撤销许可，引发了早期测试者的安全警告。
Instinct，一款由Spear Street Technology运营、由前Sierra研究员Noah Shinn创建的新型自主代理，可以连接消息、日历和音频，以执行预订航班和管理收件箱等复杂任务。尽管因其功能而受到赞誉，但测试者们还是传播了服务条款的截图，显示该条款授予了对所有用户材料和输入（包括按键和屏幕截图）的不可撤销、永久的许可。用户报告说，该代理未能按要求删除Gmail记录，并在访问权限被撤销后继续总结电子邮件，将数据以明文存储。这些发现凸显了高度自主的AI代理中固有的重大隐私风险。