人工智能应用越来越受到公众的关注，然而研究者在计算机视觉模型的理论假设与实际部署时面临一种被称为分布偏移的困境。本文讨论了识别这一突出差距的重要原因，探索了分布偏移的概念及其关键意义，并对数据中心领域用于解决这些问题的技术进行了深入概述。

Dec, 2023

通过 meta-analysis，我们发现具有良好 OOD 鲁棒性的最佳表现的模型都具有四个共同点，即视觉 - 语言预训练具有巨大的潜力。

Jun, 2022

本文提出一种新的基于概率框架、结合形式语义和机器学习的方法，通过将谓词与其所指实体分开，利用贝叶斯推断来对逻辑形式进行推理，在使用受限玻尔兹曼机和前馈神经网络的组合实现这一框架之后，最终证明了该方法的可行性。

Jun, 2016

近期，人工智能算法在从临床照片中分类皮肤病方面取得了巨大进展。然而，我们对这些算法在现实环境下的鲁棒性了解甚少，而很多因素可能导致其普适性的丧失。通过理解和克服这些限制，我们可以开发出可以帮助在各种临床环境下诊断皮肤病的具有普适性的人工智能。在这项回顾性研究中，我们证明皮肤病分布的差异是人工智能算法在对来自先前未知来源的数据进行评估时产生错误的主要原因，与人口统计或图像捕捉模式无关。我们展示了一系列步骤来弥合这种普适性差距，需要越来越多关于新数据源的信息，从病症分布到以在训练期间较少接触到的数据为重点的训练数据。我们的研究结果还表明，与仅冻结嵌入模型的分类层进行微调相比，端到端微调的性能相当。根据所掌握的信息和资源，我们的方法可以为人工智能算法在新环境中的应用提供指导。

Feb, 2024

本文研究深度神经网络在视觉识别任务中长尾类别分布的建模问题，通过调整每个数据点的分类分数和平衡不同类别的数量来实现深度神经网络的统一分布校准策略，经过图像分类、语义分割、目标检测和实例分割等四个视觉识别任务的广泛实验验证，证明了该方法在简单统一框架下能够实现所有四个任务的最优结果。

Mar, 2021

研究大规模多模态数据上预训练的 Vision-and-Language (V&L) 模型在视觉问答 (VQA) 任务中存在代表训练数据的样本分布偏移所造成的 OOD 性能问题，而模型学习的是解决基准测试而不是高层次的技能。本文通过考虑在不同设置下 (如分类和开放性文本生成) 两种预训练的 V&L 模型性能的全面评估，证明生成模型在大多数情况下对数据分布变化不太敏感，并在测试基准中表现更好。另外，我们发现多模态预训练可以提高大多数设置下的 OOD 性能。最后，本文重新审视了自动 VQA 评估度量的假设，并从经验上证明它们的严格性会反复惩罚模型的正确响应。

May, 2022

本研究提出了一种使用视觉数据训练功能分布语义模型的方法，并在 Visual Genome 数据集上进行了训练，其语义学习效果优于先前的工作。

Apr, 2022

采用可解释人工智能 (XAI) 方法，使用不同的度量标准来识别样本的相似程度，验证模型非参数和分布假设的假设，检测机器学习中最关键的问题之一 —— 超出分布检测，并在预测维护、车队编队和网络安全等复杂情境中进行了验证，得出了精确的检测和对训练 - 操作条件的评价。

Mar, 2023

从信息理论的角度，本文探讨了机器学习模型在实际应用中遭遇的数据偏移问题，比较了近期领域泛化与公正分类研究中一些最有前途的目标。根据我们的理论分析和实证评估，我们得出结论，模型选择过程需要根据观察到的数据、纠正因素和数据生成过程的结构进行认真考虑的指导。

Jun, 2021

在本研究中，我们提出了一种名为 TT-DNA 的测试时分布学习适配器，通过在测试期间直接建模来自支持集的视觉特征的高斯分布，将其与原始的 CLIP 预测进行残差连接，得到最终预测。我们在人类对象交互的视觉推理方面的广泛实验结果表明，我们提出的 TT-DNA 方法在性能上明显优于现有的最先进方法。

Mar, 2024