EMNLPNov, 2020

使用混合容量模型集成学习模型和排除数据集置偏

PDF
TL;DR本文提出了一种检测和忽略数据集特异性模式的方法，采用高低容量模型的集成训练，以自动捕捉相对浅层的相关性，并确保两个模型学习不重叠的方法，以利于更好地泛化模式。
dataset biascorrelation detectionensemble modelconditional independencepattern generalization
发现论文，激发创造
  • 不走捷径：基于集成的方法避免已知数据集偏差

    本文提出了一种训练出更具有领域迁移鲁棒性的模型的方法，通过训练一个简单模型以识别数据集偏差，再与鲁棒模型结合，使其更专注于数据集中更容易推广的模式。在五个具有领域迁移测试集的数据集上实验，结果显示在所有情况下都有显著改善，包括一个变化优先视觉问答数据集上的 12 点增益和一个对抗问答测试集上的 9 点增益。

    Sep, 2019

  • 借鉴他人的经验：避免数据集偏见的模型无关方法

    通过限制处理数据的模型容量，利用其错误来训练更加健壮的模型，从而解决自然语言处理模型对数据集偏见的问题，并且在数据分布发生变化时具有良好的可移植性。

    Dec, 2020

  • 语言引导的未知数据集偏差检测与减轻

    在这项研究中，我们提出了一种在没有先验知识的情况下通过关键词的部分出现来识别潜在偏见的框架，并进一步提出了两种去偏方法：(a) 通过指定伪标签将其传递给现有的需要先验知识的去偏方法，以及 (b) 通过文本到图像生成模型进行数据增强，使用获得的偏见关键词作为提示。实验结果表明，尽管简单，我们的框架不仅能在没有先验知识的情况下胜过现有方法，而且甚至可以与假设有先验知识的方法媲美。

    Jun, 2024

  • 通过统计检验和自动数据增强解析自然语言推理中的词汇偏见数据集以减少人为影响

    通过利用一种新颖的统计测试方法，我们发现词汇分布与文本蕴含类之间存在显著关联，强调词汇是一种明显的偏差源。为了减轻这些问题，我们提出了几种自动数据增强策略，从字符到词级别。通过对 ELECTRA 预训练语言模型进行微调，我们将有增强数据的模型与基准模型进行了比较。实验证明，所提出的方法可以有效提高模型准确性，并分别减少偏差约 0.66% 和 1.14%。

    Dec, 2023

  • 通过集成学习和正则化微调解决偏差问题

    通过多种方法解决 AI 模型中的偏见问题，使用较小的数据集和可能存在偏见的预训练模型，通过数据分割、局部训练和正则化微调训练多个模型，然后使用集成学习获得不带偏见的预测结果，最后通过知识蒸馏形成单一不带偏见的神经网络模型，实验证明了我们方法的有效性。

    Feb, 2024

  • 探索集成方法提高文本分类器模型鲁棒性

    本文通过分析一系列偏置特征并证明没有单一的模型适用于所有情况来改善模型的鲁棒性，进一步表明通过选择合适的偏置模型，我们可以获得比更复杂的模型设计基准更好的鲁棒性结果。

    Oct, 2022

  • 通过弱监督实现公平生成建模

    本文提出了一种弱监督算法来克服深度生成模型中的数据集偏差，该方法通过额外的小型未标记参考数据集作为监督信号来探测现有数据集中的偏差，并学习生成模型。实验结果表明，该方法降低了基于潜在因素的偏差达到了高达 34.6％，在同时使用基于生成对抗网络的图像生成的情况下，数据效率显著提高。

    Oct, 2019

  • 使用熵对抗数据增强来超越偏见

    该论文提出了一种对抗性数据增强的训练方案，以消除分类中的捷径，提高深度神经网络的鲁棒性，并在分类基准测试中取得了竞争力的结果。

    Jan, 2023

  • 分类任务的常识偏见发现与缓解

    基于图像描述提取特征聚类的框架，发现数据集中的敏感关联性，通过调整图像采样权重减轻下游模型偏差问题。

    Jan, 2024

  • 不要丢弃所有有偏数据：研究数据集偏差缓解技术中的核心假设

    本研究证明了现有数据偏差缓解技术所采用的偏向模型检测偏向实例的假设是不准确的，因为在相当比例的情况下，主模型和偏向模型在处理偏向实例时存在显著差异。这一发现表明，降低偏向检测方法检测的实例的权重是一种不必要的训练数据浪费。

    Sep, 2021