【安全资讯】ShadowLogic：威胁AI供应链的无代码后门

概要：

在AI网络安全领域，HiddenLayer Security AI团队发现了一种名为ShadowLogic的新型后门嵌入方法，能够在机器学习模型中植入无代码的隐秘后门。这一技术的出现对AI供应链构成了严重威胁，攻击者可以轻易劫持下游应用程序，影响范围广泛。

主要内容：

ShadowLogic后门的独特之处在于，它能够在不依赖恶意代码执行的情况下，直接操控神经网络的计算图。计算图定义了数据在模型中的流动方式及其操作，攻击者通过微妙地修改这一结构，能够实现恶意结果。与传统攻击方法不同，ShadowLogic通过植入“无代码逻辑后门”，使得后门嵌入模型结构中，难以被检测到。

这一后门的激活依赖于特定的触发器，这些触发器可以是图像分类模型中的微小像素集，或语言模型中的特定关键词。例如，在一次演示中，HiddenLayer团队使用了图像左上角的红色方块作为触发器，成功将模型的分类结果从“德国牧羊犬”更改为“十鳍鱼”。这种操控方式极易被忽视，触发器设计得几乎不可察觉。

更为危险的是，ShadowLogic后门在模型经过微调后依然保持有效，攻击者可以在预训练模型中植入后门，确保恶意行为在任何下游应用中触发。由于这些后门是格式无关的，意味着它们可以嵌入多种格式的模型中，威胁遍及图像分类、自然语言处理等多个领域。随着AI技术在关键基础设施中的应用日益增加，ShadowLogic的出现凸显了加强AI安全防御的紧迫性。