本文探讨了模型参数的脆弱性对于模型鲁棒性和泛化性的重要性，并提出了通过参数损坏来衡量神经网络参数鲁棒性的指标，并给出了一种梯度下降的估算方法，以提高训练效率。我们的研究得到理论和实证的支持，发现了深度神经网络的脆弱性，并提出了一种敌对损坏抗性训练的方法，可以提高模型的鲁棒性和预测准确率。

Jun, 2020

本文提出了一种新的度量标准 IVMOD（Image-wise Vulnerability Metric for Object Detection），用来评估图像级别上的目标检测漏报或误报对模型安全性的影响，研究表明硬件错误（如单个位翻转）会导致模型产生严重的数据损坏事件，该工作详细阐述了此类关键工作负载受硬件故障影响的安全漏洞。

Sep, 2022

该研究提出了 MUFIA 算法，该算法能够鉴别导致深度学习模型失效的特定图像污染类型，并揭示现有模型对这些污染的鲁棒性不足的弱点，从而强调了提高模型抗干扰性的必要性。

Jun, 2023

本文提出了一种基于 Visual Psychophysics Sensitivity Analysis 扩展的新型公平性评估框架，该框架可分析模型在不同被干扰亚组群中表现得是否公平，并通过 AUC 矩阵来紧凑可视化模型的公平性分析。作者分析了常见人脸识别模型的表现，实证发现当图像受到扰动时，某些亚组群处于不利地位，揭示了在无干扰的子群体上模型表现不明显的趋势。

Feb, 2022

物理不可克隆函数（PUFs）作为物联网设备的有前途的安全原语，根据物理特征提供设备指纹。尽管 PUFs 的强项，但它们容易受到机器学习（ML）攻击的威胁，包括常规攻击和基于可靠性的攻击。我们发现，大多数选举与高重复次数提供了有效防御措施，可以抵御现有的基于可靠性的 ML 攻击方法。然而，虽然大多数选举减少但不能消除不可靠性，因此我们探索是否存在可以捕捉高度可靠但并非完美可靠的 PUFs 的低不可靠性的新攻击方法，推动了新的可靠性表示和新的表示启用攻击方法的发展，该方法实验证明能破解具有高重复次数的大多数选举增强的 PUFs。

May, 2024

本文主要研究垂直联邦学习在二分类任务中的后门攻击和利用普适性触发器和无标签后门注入的通用对抗后门攻击方式进行预测干扰，成功实现可持久化的后门攻击并取得了 100％的任务性能，在揭示 VFL 隐藏的后门风险的同时为安全的 AIoT 未来发展铺平道路。

Apr, 2023

该研究探讨了软件漏洞对日常软件系统的重大影响，评估了深度学习模型在现实场景中的表现，并发现了性能下降和过拟合等问题，提出了一个改进的数据集用于评估模型，并提出了增强技术以提高性能。

Jul, 2024

本文通过性能评估研究了在分割任务中对真实世界分布偏移抗干扰能力的不同模型，发现 Visual Foundation Models（VFMs） 对基于压缩的破坏不具备鲁棒性，而非 VFM 模型在监督下表现更加强健，但在零样本评估中仍然竞争性鲁棒，VFMs 则在特定类别的对象上表现出更高的韧性。

Jun, 2023

本文提出了 Adversarial Neural Pruning with Vulnerability Suppression (ANP-VS) 方法，通过定义每个潜在特征的弱点，提出了用于抑制这些弱点的新的 VS 损失函数，并进一步提出使用贝叶斯框架剪枝具有高弱点的特征以减少对抗样本的弱点和损失的方法，验证结果表明，该方法不仅获得了最新的对抗鲁棒性，还提高了干净数据的性能。

Aug, 2019

AI 在生物技术应用和基因组测序中的持续增长以及广泛采用影响到药物发现和临床结果等重要决策流的 AI 模型的脆弱性，本文展示了将重点放在输入转换上的攻击通过模仿真实数据和混淆模型决策，最终导致模型性能显著恶化；此外，通过使用基于变分自动编码器的模型生成有毒数据来增强我们的方法，实证发现明确证明了模型性能的下降，准确性降低，假阳性和假阴性增加；此外，我们通过频谱分析分析得出了对抗样本的结论，为防御此类攻击提供了方法。

Jan, 2024