报告题目：对抗鲁棒性的最新研究进展及其机遇

报告时间：2021年7月13日（周二）下午15:30

报告地点：腾讯会议（会议号：548 293 829）

报告人：张景锋

报告人单位：日本物理化学研究所(RIKEN-AIP)

报告人简介：

张景锋博士目前是日本物理化学研究所(RIKEN-AIP)‘Imperfect Information Learning Team’的博士后研究员。2020年获新加坡国立大学计算机科学博士学位。研究主攻方向为机器学习的鲁棒性，他的长期研究目标是使人工智能对人类安全可靠。主页: https://zjfheart.github.io

报告摘要：

对抗样本是通过向自然数据中添加难以察觉的噪声来轻易地欺骗经过标准训练的深度学习模型，从而在医学、金融和自动驾驶等安全性相关的应用中导致严重的安全隐患。到目前为止，对抗训练（adversarial training, AT）是针对对抗样本获得对抗鲁棒性的最有效的方法。本次报告主要分以下两部分展开：

首先，人们普遍认为对抗鲁棒性和模型准确性是互斥的。我们通过提出以下两种对抗训练方法来挑战这一认知：（a）我们提出了一种友好的对抗训练（friendly adversarial training, FAT）方法，它可以在保证鲁棒性的同时提高准确性;（b）我们提出了几何感知实例重加权对抗训练（geometry-aware instance-reweighted adversarial training, GAIRAT），该训练可以提高鲁棒性，同时保持准确性。

其次，除了对抗性训练方法之外，我还将讨论两个相关主题：对抗性鲁棒性的网络结构和其他领域（例如标签噪声）和对抗性机器学习的结合。例如，我们发现对抗训练具有很强的平滑效果，与标准训练相比受噪声干扰较小。这表明对抗训练本身就是一个噪音标签校正器。

邀请人：刘威威 教授