问小创
告诉我你的需求，我帮你从站内挑最合适的 AI 工具。
2026年6月，科技巨头谷歌正式对名为Outsider Enterprise的网络犯罪团伙提起诉讼，该团伙通过AI技术批量生成高度拟真的诈骗内容，仅两周时间就向公众发送250万条诈骗短信，累计造成数十万用户遭受不同程度的财产损失。本次诉讼也是全球范围内头部科技企业针对AI赋能网络诈骗行为发起的首例大规模法律维权行动。
此前安全机构的监测数据显示，Outsider Enterprise团伙的诈骗内容完全由大语言模型生成，不仅能精准匹配不同地区用户的语言习惯、甚至能结合公开的用户社交动态调整话术细节，诈骗成功率比传统人工编写的诈骗短信高出37%。
近年来生成式AI工具的普及大幅降低了网络诈骗的准入门槛，以往需要专业诈骗团伙打磨数月的话术体系，现在仅需输入关键词就能在几秒钟内生成上千条差异化版本，部分团伙还会结合AI语音克隆、AI换脸技术实施精准诈骗。2025年全球范围内AI相关诈骗造成的财产损失已经突破200亿美元，同比上涨174%，传统的关键词拦截、风险提示等反诈手段已经很难应对AI生成的高拟真诈骗内容。
本次谷歌发起诉讼的核心原因，是涉案诈骗短信中有超过6成仿冒了谷歌账号异常通知、Google Play消费提醒的官方内容，不少用户点击钓鱼链接后泄露了账号密码、支付信息，近两个月谷歌客服接到的相关投诉量同比上涨210%。
除法律追责外，谷歌已经在旗下短信、邮箱产品中上线了专门的AI诈骗内容识别模型，目前已累计拦截超过1.2亿条疑似AI生成的诈骗内容，识别准确率达98.7%。相关负责人透露，后续谷歌还会向全球安全机构开放该识别模型的接口，帮助更多平台提升AI诈骗防护能力。
AI技术在黑灰产领域的应用，也倒逼网络安全防护体系加速迭代。目前欧盟AI法案已明确要求生成式AI服务商必须对输出内容添加不可擦除的水印，方便违法内容溯源；国内的《生成式人工智能服务管理暂行办法》也明确要求AI服务提供者承担内容治理责任，防范利用AI实施诈骗等违法活动。
业内人士指出，AI诈骗的治理不能仅靠科技企业的技术拦截，还需要监管完善规则、用户提升反诈认知，形成三方协同的防护网络才能从根源上降低风险。未来针对AI工具的使用监管、溯源体系建设会成为全球网络安全领域的核心发力方向。
本文基于公开信息分析整理，仅供参考。更多AI工具动态与行业解读，请持续关注本站更新。
滇公网安备 53252802528133号