谷歌起訟涉案19億美元的AI釣魚團夥，後者利用Gemini作惡
谷歌起訴了利用ai生成釣魚網站並從受害者處竊取19億美元的“局外人企業”團夥。該案件凸顯了ai驅動的網絡犯罪日益增長的威脅以及生成式ai模型雙重用途的風險。
谷歌正在起訴「外行企業」（Outsider Enterprise），一個中國網路犯罪網路，據稱該網路使用了 AI 工具來經營一個大規模的釣魚服務平台，導致估計 19 億美元的損失和 387 萬張被盜信用卡。該集團使用 AI 快速克隆合法網站並發送數百萬條詐騙簡訊，通過 Telegram 協調行動並利用谷歌雲端基礎設施。訴訟旨在破壞這些行動並查封域名，代表科技公司在利用法律系統打擊 AI 威脅方面的一個重大升級。这一發展凸顯了監管雙重用途 AI 技術的迫切挑戰，因為它們越來越多地被用於資助複雜的犯罪企業。