问小创
告诉我你的需求，我帮你从站内挑最合适的 AI 工具。
谷歌近日发布网络安全预警，称生成式AI技术正被黑灰产以工业级规模滥用，可批量生成钓鱼邮件、恶意代码变种发动定向网络攻击。谷歌威胁分析小组（TAG）近期刚成功拦截一起利用AI定制的定向攻击，涉事攻击团伙试图渗透欧洲某能源企业内网，本次攻击的实施效率较传统手段提升近3倍。
从谷歌TAG团队最新发布的二季度安全报告来看，2024年以来监测到的AI辅助网络攻击事件量环比上涨217%，绝大多数攻击来自专业化运作的地下黑产作坊。这类团伙普遍采用开源大语言模型作为生产工具，只需要输入目标企业的公开信息，就能批量生成可绕过常规安全网关的钓鱼文本，甚至自动适配公开披露的系统漏洞，生成定制化恶意程序。
以往需要资深黑客花费一周时间打磨的定向攻击样本，现在借助AI只需要几个小时就能完成，攻击成本直接降到传统方式的1/10，大量无技术基础的攻击者也能参与到定向网络攻击中，进一步放大了安全风险。
本次谷歌成功拦截的攻击就是典型的AI辅助定向攻击案例：攻击团伙先通过公开渠道收集了目标能源企业的内部采购流程、员工常用沟通话术等信息，随后用微调后的开源大模型生成了高度仿真的内部采购通知邮件，附件伪装成合同文档的远控程序。
常规的关键词检测系统对这类邮件的识别准确率不到30%，但谷歌搭载的AI原生安全系统通过识别文本生成的语法、用词细微特征，在攻击发起后的15分钟内就完成了全链路拦截，未造成任何核心数据泄露。目前包括谷歌、微软在内的多家科技巨头都在布局AI原生防护体系，专门训练模型识别AI生成的恶意内容特征。
值得注意的是，目前全球范围内针对AI滥用开展网络攻击的监管规则仍存在较多空白，地下黑产甚至已经推出了专门的“攻击即服务”AI工具，用户每月仅需支付数百美元，就能获得自动生成恶意代码、钓鱼内容的权限，攻击门槛被降到几乎不需要任何专业黑客知识。
业内安全专家指出，要遏制AI被滥用的态势，除了企业端升级AI防护体系之外，还需要大模型厂商在训练、推理阶段就嵌入完善的安全对齐机制，从源头拦截恶意指令的生成请求，同时监管层面也需要尽快出台明确的规则，对AI滥用攻击的行为明确追责标准。
本文基于公开信息分析整理，仅供参考。更多AI工具动态与行业解读，请持续关注本站更新。
滇公网安备 53252802528133号