报告1题目：Robust Perception Methods Towards Safety-enhanced Automated Vehicles

报告时间：2024年6月7日 10:00 – 11:00

报告地点：计算机学院大楼B404

报告人：余洪凯

报告人国籍：中国

报告人单位：克利夫兰州立大学

报告人简介：余洪凯，现任美国克利夫兰州立大学电子工程与计算机系助理教授，博士生导师，克利夫兰视觉与人工智能实验室主任。2018年获美国南卡罗来纳大学计算机科学博士学位，从事计算机视觉，机器学习，智能交通，无人驾驶等交叉领域的研究。在IEEE Trans和CVPR、ICCV、AAAI、ICRA等领域知名期刊和会议发表60余篇学术论文。担任IEEE Trans on Intelligent Vehicles和IEEE Open Journal of Intelligent Transportation Systems期刊副主编，ACM Multimedia 2022-2024会议领域主席，研究项目受到美国国家科学院，美国国家科学基金委、俄亥俄州交通部等资助。

报告摘要：在现代和未来交通运输中，自动驾驶车辆显示出极大的便利性和高效性。然而，近几年在现实世界中发生的一些自动驾驶汽车事故引发了公众对于其安全的担忧。自动车辆的驾驶安全对于保护乘客、弱势道路使用者和交通资产非常重要。本次报告将介绍几种用于鲁棒感知的人工智能方法，以提高自动车辆的安全性；将介绍两种流行的自动车辆感知系统，即单智能体感知和多智能体感知。本次报告的重点是这两种感知系统的一些具有挑战性的场景，如弱光、恶劣天气、车联网中有损通信等。

邀请人：邹勤

报告2题目：面向安全基础模型的跨模态攻击和基于视觉重采样的防御机制

报告时间：2024年6月7日 11:00 – 12:00

报告地点：计算机学院大楼B404

报告人：郭青

报告人国籍：中国

报告人单位：新加坡科技研究局，新加坡国立大学

报告人简介：郭青，新加坡科技研究局（A*STAR）前沿人工智能研究中心（CFAR）高级研究员，新加坡国立大学兼职助理教授，博士生导师，独立PI。2019年加入新加坡南洋理工大学聘为博士后研究员，并于2020年获聘为瓦伦堡-NTU校长博士后, 2018年获得ICME最佳铂金论文奖，2020年获得 ACM（天津）优秀博士论文，2022年获得AI Singapore 全球可信媒体战赛第三名，2022年获得ECCV AROW workshop 最佳论文奖，2023年获得AISG Robust AI Grant Challenge 资助(300万新币)，2024年以lead PI获得Digital Trust Centre Research Grant关于AI公平性的研究资助（137万新币）。主要从事计算机视觉及人工智能安全相关方向的研究，包括面向视频目标跟踪的对抗样本攻击与防御，基于视觉复原的智能模型鲁棒性提升等，在ICML, NeurIPS, ICLR, CVPR, ICCV, ECCV, IJCV, TIP, TIFS等A类会议及期刊上发表论文50余篇。AAAI 2023/2024 Senior PC，VALSE 2023 执行AC， IEEE Conference on Artificial Intelligence (CAI) 2024 联合主席。

报告摘要：近两年，我们见证了在基础模型(Foundation model，FMs)与新商业模式相结合的推动下，在实际应用中实施AI技术带来的巨大变化。一般来说，FM指的是在大量数据上训练的模型，这些模型可以针对各种下游任务进行微调，包括CLIP、SAM、ChatGPT、BLIP和扩散模型。普通人可以利用这些工具生成带有定制提示的个性化内容，这不可避免地会引起重大的安全问题。为了确保基础模型的安全性，我们关注两个关键方向：探索针对FM的对抗性攻击，以发现先进模型中的漏洞，并开发有效的防御机制以增强。在本报告中，我们将从可转移性和效率等不同角度介绍我们最近在攻击FM方面的研究成果，包括视觉语言模型和扩散模型。此外，将深入探讨我们最近的工作，利用视觉重采样原理来防御潜在的攻击，从而在不改变模型权重的情况下提高FM的可靠性。

邀请人：邹勤