AI驱动的自复制网络攻击：黑客利用大语言模型攻陷AI基础设施

研究人员警告称，黑客已开始利用大型语言模型编写攻击AI系统的代码，进而利用这些被攻陷的AI系统去攻击其他AI机器。

总部位于以色列的Oligo Security发现了这一现象，标志着在网络世界中AI不断对抗AI的又一个里程碑。该公司发现，针对名为Ray的软件的大规模利用证据。Ray是一款旨在帮助开发者管理和分配AI项目算力的软件。

据Oligo的AI安全研究员Avi Lumelsky称，Oligo的研究人员能够找到超过23万台Ray服务器在线，尽管该公司已发出警告，这可能使它们面临网络攻击的风险。Lumelsky表示，他“非常确信”诸如OpenAI的ChatGPT和Anthropic的Claude等大型语言模型被用来生成代码，以命令被黑的服务器挖掘加密货币，尽管他无法具体指出是哪些模型。他指出，当LLM被用于生成恶意代码时，会存在可识别的“标志”，包括代码中某些注释和字符串不必要的重复。

Oligo的首席技术官兼联合创始人Gal Elbaz表示，这些Ray服务器还被用来自主搜寻更多攻击目标，将其运作转变为一种自我传播的僵尸网络，这显示出“AI基础设施可能被劫持来攻击自身”。Oligo将此次攻击命名为ShadowRay 2.0，这是对其去年检测到的黑客攻击的更新版本。FINISHED

CSD0tFqvECLokhw9aBeRqnk7jlSedZi6M+5d0TwgfTSVBhEMVLPbu0jFWVwSzJGP92HyyK72FuLct/QnYxo030Y6dqs7Iyuv+8UiV2u7QdlOxOwmuTZAbnwaFXkDLvCA