ACLApr, 2019

名字有什么作用？在无法访问受保护属性的情况下减少生物学的偏见

PDF
TL;DR通过减少个人名称的词嵌入与真实职业预测概率的相关性，以消除词嵌入中所编码的社会偏见，提出了一种方法，无需访问受保护属性，仅在训练期间需要访问个人名称，从而在职业分类中减少种族和性别偏见。
mitigating biasmachine learningprotected attributesoccupation classificationword embeddings
发现论文，激发创造
  • 降低词向量中的偏见

    本研究探索检测嵌入式中最具有性别刻板印象的词语并消除偏见的新方法，揭示名字作为性别偏见的携带者的属性，扩展名字的属性来检测嵌入式中其他类型的偏见，如基于种族、年龄的偏见。

    Jan, 2019

  • 我的词嵌入中有哪些偏见？

    本文介绍了一种用于枚举词嵌入中偏差的算法。该算法利用几何模式在公共可用的嵌入中暴露了大量与敏感特征（如种族和性别）相关的冒犯性联想，以及所谓 “消除偏见” 的嵌入。该算法高度不受监督，可用于识别基于社会建构的许多形式的歧视，如种族歧视，这些歧视可能会因上下文而异。同时，我们还展示了如何移除名字可能无法消除潜在的代理偏差。

    Dec, 2018

  • 控制偏见暴露以实现公平和可解释的预测

    本文提出了一种公平去偏算法，通过调整预测模型的信念，尽可能使用敏感信息来进行预测，并在必要性最小化的同时承受一定的惩罚，以达到去偏和任务性能之间的理想平衡，并生成经过去偏的证明。

    Oct, 2022

  • 测量和减轻具有多个受保护属性的表格数据中的偏差

    提出了新的歧视衡量方法，并介绍了一种新的偏见减轻方法，实验证明了这种策略可以减少多个保护属性的数据集中的歧视。

    May, 2024

  • 生物信息的偏见：高风险环境下语义表述偏见的案例研究

    本研究就机器学习在职业分类中潜在的性别歧视问题进行了大规模调研，分析了不同语义表征中包含显性性别表示（如名字和代词）对职业分类的影响，并量化了这些表示被 “擦除” 后残留的偏见，并描述了在显性性别表示缺失时出现的代理行为。同时，研究也表明，不同性别的真正正率差异与职业领域中现存的性别不平衡存在相关性，这可能加剧这些不平衡。

    Jan, 2019

  • 朝向无需假设的偏见缓解

    通过建模特征交互来检测相关属性以减轻偏见影响的无假设框架，大大减轻了机器学习模型中针对特定人群的歧视和不公平预测行为。

    Jul, 2023

  • 超出既定框架：均等化保护属性的正交方法

    通过使用基于机器学习的正交方法，对隐私保护属性进行维度约减和正交化处理，从而实现对疾病诊断中隐私保护属性的影响的分析、减少不希望的属性关联，并提高模型预测性能。

    Nov, 2023

  • 通过生成代理敏感属性标签实现实际偏见缓解

    通过提出的无监督代理敏感属性标签生成技术来解决在机器学习系统中的偏见问题，该方法包括无监督嵌入生成和聚类两个阶段，其有效性依赖于偏见通过与敏感属性相关的非敏感属性传播，并在高维潜在空间中映射为不同人口群体的聚类。实验结果表明，使用现有算法进行偏见缓解可以得到与真实敏感属性相比可比较的结果。

    Dec, 2023

  • 关于测量和减轻词嵌入偏见推断的研究

    通过自然语言推理任务设计机制，测量陈旧的语义观念对词向量嵌入产生的影响。通过静态和动态嵌入中的偏见消除策略，减少了对其下游模型的无效推断，特别是对性别偏见的消除策略能够扩展到上下文嵌入中静态组件的有选择性应用（ELMo、BERT）。

    Aug, 2019

  • 有监督学习中的机会平等

    本研究提出了一种针对监督学习中指定敏感属性的歧视判据，结合 FICO 信用评分案例研究来说明该判据是如何通过调整学习预测器的方式达到消除歧视的目的。同时，本文研究了基于被遗忘的测试方式定义和识别偏见的固有限制。

    Oct, 2016