GPT“生成式钓鱼邮件”泛滥，研究人员建议“使用 AI 对付 AI”

IT之家 12 月 27 日消息，安全公司 Abnormal 日前发布报告，声称如今“AI 钓鱼邮件”愈发泛滥，许多黑客利用各种模型批量创建钓鱼邮件，之后使用脚本群发相关邮件，从而实施“高效率”网络诈骗活动。

该公司研究人员举例 WormGPT、FraudGPT 等“专为网络犯罪而生”的恶意 AI 工具，声称当下黑客已经将生成式 AI 融入到攻击策略中，因此用户也需要“以相同的方式做出反击”，利用 AI 过滤“可能由 AI 创建的钓鱼邮件”。

IT之家查询安全报告得知，传统的钓鱼邮件通常使用相同的域名，正文拥有固定模板格式，整体邮件内容和风格较为统一，因此相当容易被安全软件标记拦截。而黑客利用 AI 生成的钓鱼邮件乍眼看“相当独特”，甚至“每一篇都不一样”，因此难以被传统安全软件乃至人类所察觉。

▲ 使用 AI 生成的钓鱼邮件，图源 安全公司 Abnormal 发布的报告（下同）

据悉，研究人员在报告中介绍了一款名为 Giant Language Model Test Room（GLTR）的 AI 检测工具，该工具利用了“相关钓鱼邮件内容主要采用‘预测式’调用‘特定高概率单词’”的特点，从而精确识别 AI 钓鱼邮件。

研究人员声称，即使黑客让 AI“使用更为正式的措辞”创建邮件，但 GLTR 工具依然可以判断邮件中哪些部分“高概率由人工智能生成”。不过报告中同时指出，相关检测手法存在“误杀率”，100% 判断邮件内容是否由 AI 创建“几乎是不可能的”。

研究人员同时提到，AI 编写的内容中出现“语法和拼写错误”的概率相对人类反而更少，因此受害者更容易上当，当下“使用 AI 对付 AI”的方案反而更加有效。