谐波机器学习模型的鲁棒性

Apr, 2024

Harmonic Machine Learning Models are Robust

Nicholas S. Kersting, Yi Li, Aman Mohanty, Oyindamola Obisesan, Raphael Okochu

TL;DR用 Harmonic Robustness 方法测试机器学习模型的鲁棒性，无论是在训练过程中还是在黑盒实时推断监控中，该方法基于与谐波均值属性的功能偏差，表明其不稳定性和缺乏可解释性。通过在低维树和前馈神经网络中进行实现示例，该方法可可靠地识别过拟合，并且在更复杂的高维模型（如 ResNet-50 和 Vision Transformer）中，它能够高效地测量图像类别间的对抗性脆弱性。

Abstract

We introduce harmonic robustness, a powerful and intuitive method to test the robustness of any machine-learning model either during training or in black-box real-time inference monitoring without ground-truth la

harmonic robustness machine-learning model robustness testing overfitting adversarial vulnerability

发现论文，激发创造

通过谐波分析理解影响函数和数据模型

本文介绍了数据点对于模型预测的影响函数以及一种线性回归方法 datamodels 来预测训练点对测试数据输出的影响，并提供了更好的理论理解，主要工具是谐波分析和噪声稳定性。

Oct, 2022

机器学习系统可靠性的整体评估

该研究提出了一个综合评估机器学习系统可靠性的方法，侧重考虑诸如敌对攻击、性能下降以及算法技术等方面的问题，并对 500 多个模型进行了分析，为未来的研究和发展提供了指导。

Jul, 2023

人工神经网络稳健训练的分析框架

该研究论文提出了一种正式框架以研究机器学习中敌对示例现象，并利用复分析和全纯性提出了一种针对人工神经网络的稳健学习规则，揭示了该现象与调和函数的联系，并能够解释敌对示例的许多特征，包括可转移性，并为缓解敌对示例的影响铺平道路。

May, 2022

仪器与控制系统中集成的机器学习方法的动态模型无关可信度评估

通过将数据监督引入机器学习预测模型，我们提出了一种实时模型无关的方法，评估机器学习预测的相对可靠性，并通过针对操作数据集与训练数据集之间的差异来计算预测的相对可靠性，用以支持机器学习预测在常规插值任务中的可信度。

Aug, 2023

机器学习模型本地可靠性的高效估计

本文提出了分析估计器，用于高效计算多类辨别模型的局部鲁棒性，并证实了这些估计器在标准深度学习模型中准确且高效地计算局部鲁棒性，突出了局部鲁棒性的概念理解的进步，并使其计算实用化，能够在关键的下游应用中使用。

Jul, 2023

基于神经 HSMM 的无监督谐波分析学习与代码质量模板

基于隐性半马尔可夫模型（HSMM），本文提出了一种无监督学习的谐波分析方法。我们引入了和弦质量模板，其指定了给定根音和和弦质量的音高级别的概率。除此之外，构成 HSMM 的其他概率分布通过无监督学习自动学习，这在现有研究中是一个挑战。通过使用现有的标记数据评估了所提出模型的谐波分析结果。虽然我们提出的方法还没有像使用监督学习和复杂规则设计的现有模型那样表现出色，但它具有不需要昂贵标记数据或规则详细说明的优势。此外，我们还展示了基于马尔可夫模型的状态转移概率如何实现无先验知识下的基音识别。

Mar, 2024

关于强大而准确分类器的连续性

创建可靠的学习模型、了解对抗性示例现象、解释连续假设与其稳健性和准确性的不兼容性。

Sep, 2023

HoneyModels：机器学习蜜罐

研究纵观 Adversarial Machine Learning 防御策略的不足，通过建立 HoneyModels 模型，给模型添加特定知识水印来检测对抗性攻击，实验表明该模型可以检测到 69.5% 的攻击，并保留原模型的功能。

Feb, 2022

Serenade：一种人 - 机交互自动和弦估计模型

通过人工和自回归模型共同创建音频音轨的和声标注，我们提出了一种新颖的替代方法，在自动产生和声预测后，人工稀疏地注释低模型置信度的部分，然后模型根据人工指导调整其预测，我们在一组流行音乐数据集上评估了我们的模型并展示了这种人工参与的提升效果。

Oct, 2023

基于多源数据的分布鲁棒机器学习

利用多源数据建立组分布鲁棒预测模型以优化关于目标分布解释方差的对抗性奖励，提高了面对分布偏移的目标群体的预测准确性；该模型是源群体条件结果模型的加权平均，并通过引入偏差校正估计器提高了聚合权重的收敛速度，同时满足一些隐私约束并具有解释不同源数据对于预测给定目标协变量分布的重要性的优点。

Sep, 2023