前言

摘要：Google 已在纽约对一个被控使用该公司 Gemini 人工智能来自动化大规模诈骗短信活动并创建钓鱼网站、针对美国消费者的组织提起联邦诉讼。起诉书称该团伙在法庭文件中被称为 Outsider Enterprise，利用 AI 生成代码、模板和消息，将攻击扩展到数十万名受害者。本文解释了这些指控、所称损害的范围以及 AI 驱动金融诈骗的更广泛背景。目的是提供一个客观、简明的概览，让读者了解此法律行动及其对 AI 被滥用于金融犯罪的影响。

懒人包

要点： 诉讼指称 Outsider Enterprise 使用 Gemini AI 大规模制作钓鱼网站和欺诈信息，发送数百万条诈骗信息并搭建数千个假站点。有关当局估计该计划导致数百万张卡号被窃，自 2023 年中以来造成近 20 亿美元的损失。此案凸显 AI 可能被犯罪分子重新利用 来自动化并加速金融诈骗，促使法律与执法部门采取应对。

正文

Google 在美国联邦法院提起的诉讼指出，一个在文件中称为 Outsider Enterprise 的有组织网络犯罪团伙，利用包括 Google 的 Gemini 在内的人工智能工具，促成针对美国消费者的大规模钓鱼活动。根据起诉书，被告据称使用 AI 生成代码、设计模板并撰写欺诈短信，引导收信人前往仿冒网站以窃取金融账户的凭证。

Google 引用的法庭文件与声明描述了一次协调行动，据称运营者发送了约 250 万条诈骗信息，并在多国部署了超过 8,000 个钓鱼网站。许多假站点声称为合法的电信门户或金融服务，提高了受害者输入敏感信息的可能性。调查该活动的 FBI 提供的估算显示，大约有 387 万个信用卡号码被泄露，且自 2023 年 7 月以来与该行动相关的总损失接近 19 亿美元。

Google 报告在截至 6 月 1 日的两周期间，通过其 Messages 平台收到大约 55,000 起可疑信息报告，调查人员将其中许多报告与该被指控的网络联系起来。公司的诉讼不仅旨在停止即时活动，还寻求破坏被告用以扩展行动的基础设施和软件工具的救济措施。Google 在公开帖子中将此提诉描述为“永久摧毁”该团伙利用 AI 进行大规模诈骗能力的努力。

据称这些钓鱼网站与信息针对的金融资产范围广泛，从传统银行账户与信用卡凭证，到加密货币钱包与交易所账户。诈骗者越来越关注数字资产持有者，部分原因是失去去中心化或托管型加密系统资金的受害者，可能比受监管的银行面临更有限的追回选项。FBI 在 2025 年的互联网犯罪投诉统计反映了这一趋势：提交的总投诉超过一百万件，与加密相关的事件占报告损失的一大部分。

随着 AI 能力的提高，执法机构与研究人员对其滥用表示越来越多的担忧。FBI 的互联网犯罪投诉中心在近 25 年的历史中，在收到数万起相关投诉并报告数亿美元损失后，新增了一个专门的 AI 相关诈骗类别。该局于 2024 年启动的 Operation Level Up 旨在处理网络犯罪与数字金融的交叉问题，公开声明称已通知数千名疑似受害者并帮助阻止大额潜在损失。

法律专家与技术人员将 Google 的诉讼视为科技公司试图通过诉讼追究被指控不法行为者责任的早期示例，这些被指控者利用开发者工具与面向消费者的 AI。此案提出了平台运营者与 AI 提供者在防止滥用方面的责任问题、民事诉讼在破坏复杂跨境犯罪网络方面的限制，以及协作性执法在追踪与没收网络诈骗所得资产方面的作用。

关键在于，起诉书中的指控需由法院裁决。该起诉代表对抗程序的一方陈述，并构成寻求禁令救济与其他补救措施的初步步骤。如果法院判 Google 胜诉，救济可能包括命令停用服务器或账户、追缴不当得利，或其他旨在防止未来滥用 AI 生成材料的措施。相反，支持广泛 AI 工具的人士警告称，过度严格的责任可能会扼杀创新；在促进技术与防止滥用之间的法律平衡仍未确定。

被指控的行动利用 AI 将先前需要更多人工的任务自动化——例如制作具有说服力的钓鱼信息、生成欺骗性网站与简化部署——展示了 AI 如何放大欺诈者的影响力与效率。这种放大效应对防范工作有实际影响：组织与消费者必须调整检测与响应策略，而政策制定者与行业团体则需考虑在不抑制有益用途的前提下限制滥用的监管与技术缓解措施。

在短期内，Google 的诉讼强调了科技公司、执法部门与金融行业之间协调应对的紧迫性。加强报告机制、改进验证与鉴别方法，以及对欺诈网站的快速下架程序，可以减少伤害。与此同时，关于钓鱼手法的公众教育、更强的账户保护措施（例如多因素认证）以及平台与当局之间更快速的信息共享，仍然是限制 AI 驱动诈骗影响的关键。

最终，此案可能会受到开发 AI 工具的公司、制定政策的政府以及寻求遏制日益自动化威胁的安全专业人员的密切关注。它概括了一个更广泛的动态：随着 AI 在合法领域扩展能力，对手也会试验这些能力，促使法律、技术与合作性回应以保护消费者与金融体系。

要點洞見表