mitigating bias | BriefGPT - AI 论文速递

关键词mitigating bias

搜索结果 - 9

CVPR利用独立于模型的数据归因来减少偏见
通过利用像素图像属性来缩小机器学习模型中的偏见，本文提出了一种新方法，该方法利用卷积神经网络（CNN）分类器通过训练小图像块来提取像素属性，从而实现区域性属性，进而提供有关重要信息在图像中分布的洞察力。通过在偏倚数据集中引入有针对性的噪声，
PDF2 months ago
评估计算机视觉中的判别基础模型的公平性
我们提出了一种用于评估具有歧视性基础模型（如相互对比语言预训练模型）的偏差的新分类方法，并根据该分类方法系统评估了现有的缓解这些模型偏差的方法。我们针对 OpenAI 的 CLIP 和 OpenCLIP 模型对关键的应用进行了评估，例如零样
PDF9 months ago
深度学习中的数据增强与可解释性用于发现和减轻偏见
该论文探讨了深度神经网络中的偏见对模型性能的影响，并提出了降低其影响的方法。论文分为两个部分，第一部分关注机器学习流程中的偏见和错误，介绍了可解释人工智能的分类和方法，并提出了一种半自动数据探索方法用于发现潜在的数据偏见。第二部分重点讨论了
PDFa year ago
ICML线性对抗概念抹除
提出了一种通过线性极小极大博弈模型来定位和清空文本中的线性子空间，以防止线性预测器恢复与偏见相关的概念，该方法可以减轻内在和外在因素造成的偏见。
PDF2 years ago
评估和减轻知识蒸馏中砍枝神经网络的偏差
本文提出了两种简单而有效的度量方法，CEV 和 SDE，以量化剪枝模型的偏差防御质量，并展示了知识蒸馏可以调和剪枝神经网络中的偏差。我们发现模型相似度与剪枝诱导的偏差之间存在强关联，这提供了一种强大的方法来解释为什么在剪枝神经网络中会发生偏
PDF3 years ago
ACLRedditBias：对话语言模型偏见评估和去偏见的现实世界资源
本文研究文本表示模型的偏见问题。尤其是，对于会话语言模型中存在的偏见问题，资源和方法有限，并且缺乏综合评估框架。本文提出了 RedditBias，一种多维偏见评测数据集，并开发了使用其进行评估测试的框架，同时测试了使用四种去偏见方法修复模型
PDF3 years ago
ICML方向偏差放大
该篇研究关注机器学习系统中偏见放大的问题，提出了一种新的偏差放大度量方法，并分析了其技术假设和规范意义，对其测量提出了建议。
PDF3 years ago
通过 Rényi 最小化学习无偏表示
本文提出了一种通过 Hirschfeld-Gebelein-Renyi (HGR) 最大相关系数生成不带偏见表示的对抗性算法，从而实现了在机器学习算法的训练目标中包含公平性约束。
PDF4 years ago
ACL名字有什么作用？在无法访问受保护属性的情况下减少生物学的偏见
通过减少个人名称的词嵌入与真实职业预测概率的相关性，以消除词嵌入中所编码的社会偏见，提出了一种方法，无需访问受保护属性，仅在训练期间需要访问个人名称，从而在职业分类中减少种族和性别偏见。
PDF5 years ago