ACLMar, 2023

逻辑抗偏见：文字推断缓解刻板句子推理

PDF
TL;DR本文中，我们描述了几种针对不同社区的刻板印象，这些社区存在于受欢迎的句子表示模型（包括预训练的下个句子预测和对比句子表示模型）中。通过比较基于文本相似性的强预训练模型与学习语言逻辑的文本蕴涵模型，我们得出结论：与显式去偏见流程相比，使用文本蕴涵显式逻辑学习可以显著减少偏见并提高社区的识别。
pretrained sentence encodersstereotypestextual entailment learningsocial biaseslogic learning
发现论文，激发创造
  • 探究文本蕴涵数据集中的偏见

    本研究分析了 SNLI 和 MultiNLI 数据集中逻辑关系的数据偏差程度及其影响，并提出一种简单的方法来降低数据集中的数据偏差。我们发现仅对 SNLI 数据集中的假设进行分类，就能产生 64% 的准确率。

    Jun, 2019

  • 通过反事实评估减少语言模型中的情感偏见

    本文旨在量化并减少语言模型中表现出的情感偏见，该文分析了在给定的条件下（例如写作提示）和语言模型中，引起生成的文本情感发生变化的敏感属性（例如国家名称，职业，性别）的值变化的影响。我们采用公平机器学习文献中的个体和团体公正度量来量化情感偏见，并证明在两种不同的语料库（新闻文章和维基百科）上训练的大规模模型存在相当高的偏见。我们随后提出使用嵌入和情感预测导出的正则化方法，该方法应用于语言模型的潜在表示。该正则化提高了公正度量，同时保持了可比水平的困惑度和语义相似性。

    Nov, 2019

  • 文本蕴含基础

    本文研究了文本蕴涵中的语义关系 —— 通过可能世界来分析前提和假说之间的关系，同时结合图像进行多模态的分析，结果表明文本和视觉信息相结合可以更好地进行文本蕴涵，但当前多模态模型在 “接地” 方面还不够优化。

    Jun, 2018

  • 通过经验文本表示的语义特征实现文本蕴涵识别

    本文提出了一种新的基于阈值的语义文本表示方法，并结合机器学习算法应用语义和词汇特征对文本 - 假设对进行分类，该技术有效地丰富了文本的语义信息，在文字蕴涵分类任务中在意义理解方面的表现明显优于已知方法

    Oct, 2022

  • 训练数据中的隐藏偏差对文本蕴涵识别性能的影响

    本文提出了一种新的方法来研究用于识别文本蕴含任务的大型语料库的质量，通过基于统计假设检验的方法，测试了斯坦福自然语言推理（SNLI）语料库的可预测性，结果表明该库存在隐藏的偏差，并呈现了此偏差对于 RTE 的 NN 模型性能的影响。

    Apr, 2018

  • 通过下一个词预测学习语义能力的可行性研究 —— 以蕴涵为例

    理论上，LMs 通过其训练数据中的共现模式推导文本的语义信息；本研究调查其理论是否可用于从神经 LMs 中解码蕴含关系，结果显示与他们类似的测试可以在多个数据集和 LMs 上解码语义蕴含关系，这表明 LMs 隐含地建模了语义方面以预测句子共现模式的语义影响。

    Feb, 2024

  • 使用遮罩语言建模进行偏见缓解的文本风格转换

    本研究提出了一种用于减少偏见的文本风格转换模型，它结合了潜在内容编码和明确的关键词替换，可以更好地保存内容并保持良好的风格转移准确性。

    Jan, 2022

  • 利用文本蕴涵数据缓解性别偏见

    MABEL 是一种中间预训练方法，用于减轻上下文表示中的性别偏见，它通过对自然语言推理（NLI）数据集中对应增强的性别平衡蕴含对的对比学习目标，以及在相反性别方向上拉伸相同蕴含对的对准器，大量评估了我们的方法，表明 MABEL 在公平性方面优于以前的任务无关去偏见方法，并且它在下游任务的微调后保持了任务性能。

    Oct, 2022

  • 在对象预测中进行有效三元验证的文本蕴涵

    使用文本蕴涵来验证从语言模型通过填充式语句中提取的事实，结果表明基于文本蕴涵的三元验证改进了语言模型的预测能力。

    Jan, 2024

  • 偏执是强健的自学习者

    本研究设计了一种提示策略，将多个 NLU 任务作为上下文蕴含进行推断，并提出了简单伪标签编辑算法（SimPLE）以提高自我训练的伪标签质量，在二分类和多分类分类任务上进行的实验表明，自我训练蕴含模型在语言理解任务上比大型语言模型更有效和可信。

    May, 2023