AAAIMar, 2024
强化学习下的黑盒图像、视频和 ECG 信号分类的鲁棒性与可视化解释
Robustness and Visual Explanation for Black Box Image, Video, and ECG Signal Classification with Reinforcement Learning
Soumyendu Sarkar, Ashwin Ramesh Babu, Sajad Mousavi, Vineet Gundecha, Avisek Naug...
TL;DR我们提出了一种针对不同模型类型的通用强化学习（RL）框架，用于制定对抗性攻击，涵盖了从 ECG 信号分析（1D）、图像分类（2D）到视频分类（3D）的多个领域。该框架专注于识别敏感区域，并在最小失真和各种失真类型的情况下引发错误分类。这种新型 RL 方法在所有三个应用中表现优于最先进的方法，证明了其有效性。我们的 RL 方法产生出优秀的定位掩膜，增强了图像分类和 ECG 分析模型的可解释性。对于 ECG 分析等应用，我们的平台突出显示医生关注的关键心电图片段，并保证抵御普遍的失真。这个综合工具旨在通过对抗性训练增强鲁棒性，并在各种应用和数据类型中提升透明度。