利用超球嵌入来增强对抗训练

利用超球嵌入来增强对抗训练

这次介绍一篇NeurIPS2020的工作，"Boosting Adversarial Training with Hypersphere Embedding"，一作是清华的Tianyu Pang。

该工作主要是引入了一种技术，称之为Hypersphere Embedding，本文将其称作超球嵌入。

该方法和现有的一些对抗训练的变种是正交的，即可以互相融合提升效果。

这里指的对抗训练的变种有 ALP, TRADE 等

对抗训练框架

首先，如下图所示，我们列出来AT以及其变种，用粉色标识出来其训练目标的差异

相关材料：

• NeurIPS 2019: Metric learning for adversarial robustness.
• IWSBPR 2015: Deep metric learning using triplet network.
• 更强的对抗攻击：https://github.com/Line290/FeatureAttack

其实这里的motivation并不充分，给的理由仍然不够有力

cifar10-whitebox

可以看到，加了HE之后防御效果会有一定的提升，少数情况下会下降

然后是ImageNet上的测试

imagenet

相比FreeAT，防御效果会比较明显