生成式 AI（GenAI）的迅猛发展正在改变各行各业，推动内容创作、自动化和数字交互方式的革新。但 Palo Alto Networks 的 Unit 42 威胁情报团队在最新分析中警告称，同样的技术正被网络犯罪分子滥用，用于快速制作高度逼真的钓鱼邮件、深度伪造内容以及仿冒网站，攻击效率前所未有地提升。
该报告指出：“由于生成式 AI 的普及，攻击者正在滥用这些平台来制作逼真的钓鱼内容、克隆可信品牌，并通过低代码建站服务大规模部署欺诈页面。这类威胁越来越难以检测。”
GenAI 使用激增，但也带来更大攻击面
Unit 42 的监测数据显示，仅在六个月内，生成式 AI 平台的使用量就增长了两倍以上。使用最多的是高科技行业（70% 以上），其后是教育、电信和法律服务领域。使用场景主要集中在文本生成工具、聊天机器人和媒体生成平台，其中约 16% 用于数据处理和工作流自动化。
报告指出：“访问 AI 网站的流量整体上升，说明生成式 AI 的应用正迅速嵌入企业的日常运营。”
AI 正让钓鱼攻击更真实、更大规模
Unit 42 强调，虽然 GenAI 带来巨大益处，但同样显著提升了钓鱼攻击的规模和复杂度。攻击者正在广泛利用 AI 工具制作高度逼真的诱骗内容：
- 建站工具（40%） 被用来创建仿真钓鱼登录页面；
- 写作辅助工具（30%） 被用于撰写“专业、高质量”的钓鱼邮件；
- 聊天机器人（11%） 被改造成可实时欺骗用户的恶意对话工具。
报告写道：“攻击者可以利用多媒体 AI 工具 —— 包括媒体生成器和网站生成器 —— 快速制作看似真实但实际上是伪造的网页、深伪内容，以及钓鱼页面，模拟知名品牌。”
其中最令人担忧的是：AI 建站平台可以在不到一分钟的时间里，根据一句提示词生成完整网站。
Unit 42 研究人员还进行了实验：“我们使用一个已知的 AI 建站工具，仅凭一个电子邮箱就开设测试账户，并成功生成了一个冒充 Palo Alto Networks 的假网页。”
已有真实案例出现、未来会更具迷惑性
例如在 2025 年 5 月，Unit 42 已检测到两个通过 AI 建站服务生成的钓鱼页面，用于引导用户到窃取凭证的站点。报告指出，虽然目前 AI 制作的钓鱼站还比较粗糙，但“从中长期看，随着 AI 网站生成工具能力增强，攻击将更具欺骗性”。
除了建站工具外，攻击者还在滥用 AI 写作平台作为钓鱼页面的免费托管环境。这些钓鱼页面通常伪装成企业通知，例如“您有新文件，请点击查看”，诱导用户进入伪造的 Microsoft 登录界面等。
Unit 42 表示：“虽然未来攻击者可能进一步利用这些平台的 AI 功能，但现在他们主要是把这些平台当作恶意内容的托管空间来使用。”
防御关键：传统检测已不够
报告结论指出，传统的检测机制可能不足以识别这些 AI 驱动的新型社交工程攻击。Unit 42 强调道：“这些风险共同说明生成式 AI 正显著放大钓鱼与社交工程型攻击，因此必须建立更强的安全防护和威胁检测机制。”
发表评论
您还未登录，请先登录。
登录