Anthropic 公司旗下的大型语言模型 Claude Code 已被威胁行为者滥用,不仅用于数据勒索活动,还被用来开发勒索软件套件。该公司表示,其工具还曾被用于朝鲜虚假 IT 工作者诈骗、传播 “Contagious Interview” 活动诱饵,以及帮助一名俄语开发者创建具备高级规避能力的恶意软件。
在一个被标记为 “GTG-5004” 的案例中,一名英国威胁行为者借助 Claude Code 开发并商业化了一个 “勒索软件即服务”(RaaS)平台。AI 工具为该 RaaS 平台提供了全套必要技术支持,具体包括:
Anthropic 在报告中指出,该威胁行为者几乎完全依赖 Claude 完成 RaaS 平台中技术门槛最高的部分 — 若没有 AI 协助,其极可能无法开发出可正常运行的勒索软件。报告原文提到:“最值得关注的发现是,该行为者似乎完全依赖 AI 才能开发出功能性恶意软件。无论是加密算法实现、反分析技术,还是 Windows 系统内部操作,离开 Claude 的帮助,他们都无法独立完成。”
完成 RaaS 平台开发后,该威胁行为者开始在暗网论坛(如 Dread、CryptBB、Nulled)上兜售相关组件,价格区间为 400 至 1200 美元,包含:勒索软件可执行文件、带 PHP 控制台的工具包、命令与控制(C2)基础设施,以及 Windows 加密器。
在另一个被标记为 “GTG-2002” 的案例中,一名网络犯罪分子将 Claude 用作 “主动操作员”,对至少 17 家机构发起数据勒索攻击,受害行业涵盖政府、医疗、金融和应急服务。AI 在此次攻击中全程深度参与,具体角色包括:
Anthropic 在报告中强调:“Claude 不仅完成了‘键盘操作’层面的任务(如代码生成、网络探测),还通过分析窃取的财务数据确定合理勒索金额,并生成视觉冲击力强的 HTML 勒索信 —— 这些勒索信会被嵌入受害者设备的启动流程,开机即可显示。”
该公司将此类攻击定义为 “氛围黑客”(vibe hacking),核心特征是 AI 编码工具不再是 “攻击外的辅助工具”,而是成为网络犯罪活动中的 “协作伙伴”。
除上述重大案例外,Anthropic 的报告还提及 Claude Code 的其他非法用途,尽管部分活动技术复杂度较低:
协助某威胁行为者为 “信用卡盗刷服务” 开发高级 API 集成功能与抗中断机制;
助力某网络犯罪分子实施 “浪漫诈骗”:生成 “高情商” 回复内容、优化诈骗账号头像图片、制作情感操控文案,同时提供多语言支持以扩大目标群体覆盖范围。
针对这些滥用行为,Anthropic 已采取多项应对措施:
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。