明确威胁集合以后,怎样在训练时回应?

完整解释、原始数值、素材与实验仍可访问;默认翻页不进入此内容。

内层:动输入 δ给定 θ,在允许扰动集合找较大损失外层:动参数 θ给定扰动样本,降低分类损失minθ E(x,y) [ maxδ∈S ℓ(fθ(x + δ), y) ]鲁棒优化机制 · S是指定威胁集合 · 有限步PGD未攻击成功不构成鲁棒保证

现在回看Madry等2017年预印本、ICLR 2018工作。内层固定参数、改变输入,寻找损失更大的允许扰动;外层固定困难输入、更新参数,降低损失。两个变量分清以后再读min–max。PGD只是有限步近似搜索,未找到错误不等于证明所有扰动安全。这一训练时回应利用训练数据与类别目标;接下来改变使用时点,讨论只有模型和无标签输入的部署问题。

原始说明

现在回看Madry等2017年预印本、ICLR 2018工作。内层固定参数、改变输入,寻找损失更大的允许扰动;外层固定困难输入、更新参数,降低损失。两个变量分清以后再读min–max。PGD只是有限步近似搜索,未找到错误不等于证明所有扰动安全。这一训练时回应利用训练数据与类别目标;接下来改变使用时点,讨论只有模型和无标签输入的部署问题。 Madry等:首次预印本2017-06-19,正式会议ICLR 2018;2019是后续版本日期,不能当作首次提出。

Madry et al. · ICLR 2018