在变化分布下预测神经网络的性能

Jun, 2022

在变化分布下预测神经网络的性能

Agreement-on-the-Line: Predicting the Performance of Neural Networks under Distribution Shift

Christina Baek, Yiding Jiang, Aditi Raghunathan, Zico Kolter

TL;DR本文研究了神经网络分类器之间的一致性现象以及其与准确性的线性关系，提出了一种只利用无标签数据进行 ODA 预测的算法，并探讨了这种现象对于深度神经网络的新见解。

Abstract

Recently, Miller et al. showed that a model's in-distribution (ID) accuracy has a strong linear correlation with its out-of-distribution (OOD) accuracy on several OOD benchmarks -- a phenomenon they dubbed ''accuracy-on-the-line''. While a useful tool for model selection (i.e., the mod

accuracy-on-the-line ood accuracy neural network classifiers agreement-on-the-line ood prediction algorithm

发现论文，激发创造

错误数据上的准确度：关于嘈杂数据对于超出分布泛化的陷阱

通过研究机器学习中的 “在线准确性” 现象，我们发现噪声数据和干扰特征会破坏准确性与超参数和数据配置之间的正相关关系，导致准确性与超参数和数据配置之间出现负相关关系。这种现象也可能出现在含有假特征的情况下，假特征会凸显出复杂信号特征，导致大量干扰特征空间。此外，将数据扩展到更大规模并不能减轻这种不良行为，甚至可能加剧它。我们通过线性分类模型在真实和合成数据集上进行验证，并对噪声数据和干扰特征的条件下的 Out-of-distribution (OOD) 错误证明了下界。

Jun, 2024

通过线上协议预测基础模型的性能

通过构建多样性的集合，我们可以利用基于线上一致性的方法以高精度预测基础模型的 OOD 性能。

Apr, 2024

利用重要神经元进行线外检测 (LINe)

提出了一种新的基于神经元分析的方法，Leveraging Important Neurons (LINe)，通过使用 Shapley 值剪枝和激活截断等方法实现后置 OOD 检测。在 CIFAR-10，CIFAR-100 和 ImageNet 测试数据上，该方法表现出比其他现有后置 OOD 检测方法更高的有效性。

Mar, 2023

数据子群体间机器学习表现非线性相关性

研究机器学习模型在不同的数据分布下的性能表现，发现在子人群变化时，性能间的相关性呈现 “月形” 相关性，并且这种非线性相关性受到训练数据中虚假相关的影响，研究结果对机器学习的可靠性和公平性具有应用意义。

May, 2023

在线准确性：关于样本内外泛化的强相关性

通过对 CIFAR-10、ImageNet、FMoW-WILDS 和 iWildCam-WILDS 等模型和数据集的实证研究，我们展示了机器学习系统在未知、分布不同的环境中表现的强相关性，并提供了基于高斯数据模型的理论解释。

Jul, 2021

离群数据：对抗样本的熟悉 —— 综述

深度神经网络在现实应用中会遇到来自分布失真和对抗性攻击的数据，本综述聚焦于这两个领域的交叉研究，探讨如何通过鲁棒的分布失真检测和统一的鲁棒性进行对抗性攻击和对分布失真数据的健壮处理。

Apr, 2024

深度神经网络的可预测外推倾向

神经网络预测在面对越来越多的分布外数据时，往往呈现出不可预测和过度自信的特点。然而，我们的研究发现，与其任意拟合，神经网络预测往往趋向于一个恒定值，并且这个值通常接近于最优恒定解（OCS），即在没有观察到输入时最小化训练数据平均损失的预测。我们在 8 个包含不同分布转移的数据集（包括 CIFAR10-C 和 ImageNet-R,S）、不同损失函数（交叉熵、均方误差和高斯负对数似然）以及不同架构（CNN 和转换器）上展示了这种现象。此外，我们提出了这种行为的解释，首先通过实证研究验证，然后在简化的深度均质网络和 ReLU 激活的环境中进行理论研究。最后，我们展示了如何在面对分布外输入时利用我们的发现在实践中实现风险敏感的决策。

Oct, 2023

神经元激活覆盖度：重新审视区分与泛化

本文提出了一种神经元激活覆盖度（NAC）概念，并通过研究神经元行为以区分 InD 和 OOD 数据，打破了 ResNet-50 FPR95 记录并提出了 NAC 标准以评估模型健壮性。

Jun, 2023

OoD-Bench: 量化和理解外分布泛化的两个维度

通过对分布偏移数据的分类和对其相关算法的大量实验比较，对已有数据集和算法进行了分类整合，为未来的迁移学习和数据偏移研究提供了参考。

Jun, 2021

用于识别样本分布外点的似然比

研究讨论了关于基于基因组序列的细菌识别的 out-of-distribution (OOD) inputs 问题，提出了用于深度生成模型的似然比方法来纠正背景统计数据偏差，并在 genomics 数据集上进行了实验。结果表明，我们的方法在 OOD 检测方面取得了最好的性能，并且我们证明了该方法的广泛适用性。

Jun, 2019