同样改一张图,是同一种鲁棒性吗?

完整解释、原始数值、素材与实验仍可访问;默认翻页不进入此内容。

条件变化改变怎么产生必须说明什么corruption噪声 / 模糊 / 天气等类型、强度、预处理对抗攻击针对模型与目标找扰动范数、ε、步数、攻击目标自然分布变化拍摄 / 场景 / 群体变了采样与类别映射ImageNet-A 的自然困难样本,不等于合成像素攻击。问题边界示意 · 本页无攻击成功率或模型预测

回扣设备章节先提出的输入变化,现在把生成过程说清。corruption有类型和强度,对抗攻击在允许集合内按目标寻找扰动,自然分布变化来自采集或选择条件;它们不能共用一个含糊的鲁棒性分数。FGSM属于更早的历史,ImageNet-A自然难例也不是合成小范数攻击。先定义变化保持什么任务答案,再讨论改进。我们先用形状与纹理冲突拆开模型可能依赖的线索,随后把这种评价思想组织成基准。

原始说明

回扣设备章节先提出的输入变化,现在把生成过程说清。corruption有类型和强度,对抗攻击在允许集合内按目标寻找扰动,自然分布变化来自采集或选择条件;它们不能共用一个含糊的鲁棒性分数。FGSM属于更早的历史,ImageNet-A自然难例也不是合成小范数攻击。先定义变化保持什么任务答案,再讨论改进。我们先用形状与纹理冲突拆开模型可能依赖的线索,随后把这种评价思想组织成基准。

FGSM

Madry et al. · ICLR 2018

1907.07174