- 通过 Lipschitz 正则化和自动权重平均探索高效快速的对抗训练的重访
该研究论文通过使用快速对抗训练技术(Fast Adversarial Training,简称 FAT)来提高模型的鲁棒性并减少标准对抗训练的训练成本,然而快速对抗训练经常受到灾难性过拟合(Catastrophic Overfitting,简 - 医学图像分类中的鲁棒性压力测试
通过深度神经网络对基于图像的疾病检测进行研究并进行临床验证,通过应力测试评估模型的稳健性和亚组性能差异,发现某些模型能够产生更稳健和公正的性能,并且预训练特征对下游稳健性起重要作用,强调应力测试在图像疾病检测模型的临床验证中应成为标准实践。
- ICMLFACADE: 用于对抗电路异常检测和评估的框架
我们提出了 FACADE,这是一个新颖的概率和几何框架,用于深度神经网络中的无监督机械异常检测,其主要目标是推动对抗攻击的理解和缓解。FACADE 的目标是生成电路上的概率分布,从而提供对其对伪类的流形属性变化或激活空间中高维模式的贡献的关 - 对抗噪声标签的稳健特征学习
This paper proposes a method to improve the robustness of deep learning models in the presence of noisy labels by utiliz - 图像分类中针对分布偏移的实时适应性评估
通过建立一个基准测试来评估和比较测试时间调整方法在提高模型稳健性和泛化性能方面的有效性,我们提供了一个可靠的评估方式,并探索了不同测试时间调整方法与不同网络骨干的兼容性。
- SysNoise: 探索和基准测试训练 - 部署系统不一致性
本文对深度学习模型在不同系统实现中的鲁棒性问题进行了研究,并首次引入了系统噪声(SysNoise)这一概念,该噪声在深度学习训练和部署过程中的影响不容忽视,作者进一步对其进行分类并构建了综合基准来量化其对模型性能的影响,发现 SysNois - 使用多路径归因映射改善解释独立表示
该论文提出了一个框架,利用可解释的分离表示来进行下游任务预测,并通过可视化分离表示来加强和验证解释,从而在卫生保健的临床诊断中降低由于因果关系错误而导致的危险选择和提高模型的鲁棒性。
- ACL重新思考文档级关系抽取:现实检验
本文针对文档级关系抽取领域中广泛存在的一种强假设,即所有命名实体都已经完美地本地化、标准化和分类,通过构造四种类型的实体提及攻击,对典型的文档级关系提取模型进行行为探测,发现大多数当前的文档级关系提取模型易受实体提及攻击的影响,难以在真实世 - 基于频率的深度学习模型对图像破坏的漏洞分析
该研究提出了 MUFIA 算法,该算法能够鉴别导致深度学习模型失效的特定图像污染类型,并揭示现有模型对这些污染的鲁棒性不足的弱点,从而强调了提高模型抗干扰性的必要性。
- 多模态学习的校准
该文介绍了多模态机器学习在可靠性方面的问题,通过对当前分类方法进行实证研究发现算法的可靠预测能力存在问题,因此提出了一个新的正则化技术:Calibrating Multimodal Learning 来解决问题并提高性能.
- 通过近似正交约束的鲁棒低秩训练
介绍了一种在保证模型精度的情况下,同时降低深度学习中推理和训练成本,并通过基于神经网络条件数的模型稳健性表明低秩矩阵分解(low-rank matrix factorizations)容易导致模型鲁棒性的问题,提出了一种基于鲁棒低秩矩阵训练 - 使用 NERO 评估机器学习模型:在轨道上揭示非等变性
提出一个名为 NERO Evaluation 的新型评估流程,旨在关注模型的等变性、紧密捕捉模型的可靠性,并通过模型输出的交互式可视化效果有效地解释模型行为。同时,提出一种替代基于真实值的方法 —— 共识方法,以评估模型的等变性。
- ACLCREST: 理性化与因果文本生成的联合框架
本文介绍了一种名为 CREST 的联合框架,结合了选择性合理化和反事实文本生成的互补优势,实现了在对 NLP 模型进行分析和训练时的提取有意义的特征和提高模型稳健性的目的。
- 强化学习中生成模型分布稳健性的研究
研究强化学习中模型鲁棒性以减少实践中的模拟与实际之间的差距,采用分布鲁棒马尔可夫决策过程的框架,在规定的不确定性集合范围内学习最优性能策略,对于不同的不确定性集合,分别用基于模型的方法分析分布鲁棒价值迭代的采样复杂性,结果表明分布鲁棒马尔可 - 增强对多任务模型的对抗攻击之动态梯度平衡
本文研究多任务学习中的单任务机器学习攻击,提出了基于平均相对损失变化的动态梯度平衡攻击方法(DGBA),并在两个流行的多任务学习基准测试库上进行了广泛评估。结果显示参数共享会提高任务准确性,但对提高模型健壮性有贡献。
- IJCAI基于图形消歧的深度部分多标签学习
本文提出利用图形解析和深度模型相结合的方法 ——PLAIN 应对 PML 问题,提高其精确性和鲁棒性。该方法在多个合成数据集和三个实际 PML 数据集上都表现出显著的优越性。
- 数据集精炼的全面研究:性能、隐私、鲁棒性和公平性
通过分析压缩数据集技术对隐私、模型鲁棒性和公平性的影响,本文提出了一个评估这一技术的大规模基准测评框架。
- 基于任务导向多目标优化生成对抗性样本
本研究提出了面向任务的多目标优化方法(Task Oriented MOO)来对抗对抗性示例生成过程中的问题进行优化,重点放在改进未达成目标的任务上,实现了对抗性训练的提高。
- 在能力受限情况下发起强大的后门攻击
本研究探讨了在能力限制内实施黑盒后门攻击的可能性,通过设计后门触发器,攻击者可以在没有参与训练过程或了解目标模型结构的情况下作为图像注释者或供应商从事此类攻击。实验结果表明,我们的方法在黑盒场景中实现了高攻击成功率,并逃过了最先进的后门防御 - 透明且鲁棒的基于数据的风力涡轮机功率曲线模型
该论文引入了可解释的人工智能框架,通过 Shapley 值和最新的可解释 AI for 回归方法,从 SCADA 数据中学习风力发电机功率曲线模型。研究结果表明,学习策略可以更好地指示模型的鲁棒性,比验证集或测试集错误更有用。本文提出了在风