Feb, 2020

DeBayes: 一种用于消除网络嵌入偏差的贝叶斯方法

PDF
TL;DR本研究提出了一种使用偏置先验的贝叶斯方法（DeBayes），来学习去偏置的嵌入，以实现更加公平的链接预测，有效应对机器学习算法中人种、性别、年龄等个人隐私信息对算法造成的影响。
machine learningfairnessbias reductionnetwork embeddingbayesian method
发现论文，激发创造
  • 从偏见到平等：消除大型语言模型词向量偏差的新方法

    我们提出了 DeepSoftDebias 算法，该算法使用神经网络执行 “软去偏见”，并在各种 SOTA 数据集、准确度指标和复杂的 NLP 任务中进行了全面评估。我们发现 DeepSoftDebias 在减少性别、种族和宗教偏见方面优于当前最先进的方法。

    Feb, 2024

  • 视觉和语言研究中实现更公平的神经模型的去偏置方法：一份调查报告

    在电脑视觉和自然语言处理领域中，神经网络虽然能够取得最新成果，但是其存在数据内的建模偏见，导致人工智能领域出现了公平性的研究方向，其目的为了纠正算法偏见，提出了几种基于公平性的神经网络去偏置的方法。

    Nov, 2022

  • 知识图谱中自动检测偏差

    本文提出了一种基于数值偏差度量的方法，用于识别和暴露知识图谱嵌入中存在的偏见，并在职业预测任务中展示了三种不同的偏见度量，从而弥补了目前文献中手动指定偏差关系的缺陷，以支持更明智的决策。

    Sep, 2021

  • 推进句子表示的去偏见化

    调查了句子级别表达中社会偏见存在的情况，提出了另一种更有效减弱偏差的方法 Sent-Debias，并在保持性能的同时，用于情感分析，语言可接受性和自然语言理解等句子级下游任务。

    Jul, 2020

  • 基于贝叶斯方法的词向量偏差估计不确定性

    该研究提出了一种基于贝叶斯建模的方法，以更准确地检测词向量中的偏见，并在 Religion、Gender 和 Race 词表上进行了展示，验证了它的有效性。

    Jun, 2023

  • 基于词典的预训练词嵌入去偏差化

    本研究提出了一种使用字典对预先训练的词嵌入进行去偏置的方法，该方法不需要访问原始的训练资源或了解所使用的词嵌入算法，并可以自动从字典定义中学习无偏置词嵌入所需满足的约束条件。实验结果表明，该方法可以准确消除预先训练的词嵌入中编码的不公平偏见，同时保留有用的语义信息。

    Jan, 2021

  • 忽视偏见：从深度神经网络嵌入中明确移除偏差和变异

    通过算法和祖源数据库的使用，可以提高神经网络在极度偏斜的数据集上的分类准确性，并消除与数据集相关的偏见和变异。

    Sep, 2018

  • 机器学习中的公平性

    讨论如何使用因果贝叶斯网络和最优输运理论来处理机器学习公平性问题，尤其是在复杂的不公平场景下，提出了一种统一的框架来处理不同的情况和公平标准，并介绍了一种学习公平表示的方法和一种考虑敏感属性使用限制的技术。

    Dec, 2020

  • 贝叶斯神经网络后验估计尖化对隐性视觉偏差的缓解

    这篇论文提出了一种基于贝叶斯神经网络的去偏方法，通过刻画后验概率与数据偏差 (or 伪相关性) 之间的关系，利用高确信性的核心特征代替不确定性高的特征，从而提高了模型的公平性和准确性。

    Mar, 2023

  • DebIE: 词嵌入空间隐式和显式去偏差平台

    DebIE 是第一个集成化平台，用于测量和减轻词嵌入中的偏见。它可以通过执行两个 (相互可组合的) 去偏置模型来计算多种隐含和显式偏见的度量，并且可以通过四个不同接口进行访问：(a) Web 应用程序，(b) 桌面应用程序，(c) REST-ful API，(d) 命令行应用程序。

    Mar, 2021