fairness metrics | BriefGPT

关键词fairness metrics

搜索结果 - 55

通过指数倾斜实现高效个体公平的 k-means
这篇论文提出了一种名为倾斜 k-means（TKM）的新算法，以实现聚类的个体公平性。通过将指数倾斜集成到平方误差和（SSE）中，形成了一种新的目标函数 —— 倾斜 SSE。基于协作下降和一阶梯度法进行优化，证明了 TKM 的收敛性。在公平
PDF8 days ago
AI 公平性的感知 - 思维模型的效益与风险
最近，在机器学习模型的速度、准确性和公平性方面改进的潜力上，利用留置集在训练过程中的转导学习方法已经越来越受欢迎。然而，留置集本身的构成，特别是敏感子群的平衡，却一直被忽视。我们在 CIFAR 和 CelebA 数据集上的实验表明，留置集中
PDF15 days ago
他们都是医生：合成各种对抗偏见的反事实案例
通过生成合成的反事实图像集合，采用脱节模型训练方法来改善 Vision Language Models（VLMs）的公平性和性能。
PDF15 days ago
ACL为什么基于提示的公平度量不相关？
该研究针对大型语言模型可能学习到的偏见，通过评估和减轻这些偏见的多个指标发现，基于提示的公平性指标间的相关性较低，因此提出了一种名为 CAIRO 的方法，通过增强提示信息来提高公平性指标之间的相关性，并取得了显著的改善。
PDF23 days ago
关于公平感知分类器的最大局部差异
通过提出一种称为最大累积比不平等的新公平度量指标（MCDP）来衡量算法的最大局部不平等，提供比传统公平度量更准确和高效的计算方法，并通过不可导逼近的 MCDP 的优化算法提高算法公平度。在基于表格和图像的数据集上进行的广泛实验验证了我们的公
PDFa month ago
持续学习中医学图像的公平性演变
通过使用领域特定的公平度量，我们评估了反复学习策略在医学图像分类任务中的偏差演化，发现伪标签策略具有更小的偏差，因此在考虑模型公平性的现实场景中应优先选择该策略。
PDF3 months ago
跨国边界评估人类感知的公平指标
通过国际调查了解公平指标的适用性，探索了个人属性与公平指标选择之间的关系，并发现国家背景对这些偏好具有重要影响。
PDF3 months ago
关于解释不公正现象的概述
算法公平性和可解释性是实现负责任人工智能的基本要素。本文关注它们之间的相互关系，即最近受到越来越多关注的研究领域。我们首先提出了两种综合分类法，分别代表了公平性和解释两个互补的研究领域。然后，我们将用于公平性的解释分为三种类型：（a）用于增
PDF5 months ago
测量机器学习偏见造成的伤害：需要了解哪种错误以什么方式伤害了谁
通过社会心理学的视角，以性别刻板印象在图像搜索中的案例研究为例，本文研究了机器学习误差对人们心理体验的影响，发现刻板印象加强型误差会引起更多主观上的伤害体验，而对认知信念、态度或行为的影响较小，这种伤害对女性的影响较大。然而，某些违背刻板印
PDF5 months ago
通过 AIF360 对重新加权样本进行偏差缓解的综合验证
这篇研究论文系统地研究了对传统机器学习模型中重新加权样本的有效性，通过对 Adult Income 和 COMPUS 数据集上的五个模型进行二分类，并使用五个公平度量评估预测结果，揭示了实现传统机器学习模型公正性的重新加权样本的复杂性，以及
PDF6 months ago
KDDGroupMixNorm 层用于学习公平模型
提出了一种基于 GroupMixNorm 层的处理方法，通过混合样本的组级特征统计数据来减轻深度学习模型中的偏见，该方法在减少偏见的同时对整体准确性影响较小。实验结果表明该方法在标准数据集上取得了最先进的性能，同时还表明 GroupMixN
PDF6 months ago
公平审计的样本容量计算简明教程
公平审计中，确定所需子群样本量以最大化假设检验的统计功效对于获得信息丰富的公平评估至关重要，本文解决了这些问题并提供了相关指导，适用于二元分类模型的审计和多种公平度量方法的总结。此外，文章还讨论了其他可提高审计结果可靠性的研究方法设计方面的
PDF7 months ago
偏见缓解的连续效应解释
机器学习系统中，偏见缓解方法旨在使特权组和非特权组的结果更加公平。本文旨在对应用缓解干预措施时受影响的群体进行特征化，将干预效果视为分类任务，并学习可解释的元分类器以识别具有改变结果的群体。我们检验了在模型生命周期的不同阶段工作的一系列偏见
PDF7 months ago
康德的伦理学遇上 AI 对齐：迈向道德稳健的公平度量
通过将康德的义务论伦理学融入到人工智能对齐领域的公平性度量中，本文重新审视了康德对功利主义的批评，并主张公平原则应与康德的义务论框架相一致，以追求更加公正和正义的道德基础。
PDF8 months ago
利用概率受保护特征估计和实现常规公平度量
在有限的受保护属性标签访问情况下，本文开发了测量和减少公平违规的方法，提出了估计现有模型的常见公平度量和解决约束非凸优化问题以限制公平违规的模型训练技术，并且相比其他受限受保护属性的公平优化方法，在减小公平度的同时减少了公平性和准确性的权衡
PDF9 months ago
均等混淆公平性：在自动决策系统中测量基于群体的不公平差异
随着人工智能在影响人类和社会的决策中扮演越来越重要的角色，自动化决策系统的问责制越来越受到研究人员和从业者的关注。然而，在评估公平性方面，文献中存在着大量采用不同视角和假设的公平度量标准，这通常是不兼容的。本文提出了一个新的等混乱公平测试来
PDFa year ago
交叉性别与医疗记录中的证言不公正
本研究旨在使用实际医疗数据探讨使用交叉因素的公平度量方法，以更准确地检测在医疗记录中可能导致口述不公的言语，并通过分析人口统计特征的交叉作用，发现不同人群在治疗中受到的不公平待遇差距，并提出解决方案。
PDFa year ago
IJCAI可解释人工智能中的对抗攻击和防御：一项调查
该论文对 50 多篇与机器学习模型解释袭击和公正性度量有关的研究进行了简要综述，并讨论了如何防御攻击和设计稳健的解释方法。该论文提出了现有 XAI（可解释人工智能）不安全因素的列表，并概述了 Adversarial XAI（AdvXAI）的
PDFa year ago
您的模型是否 “MADD”？一种新的度量算法公平性的度量方法，用于预测学生模型
本研究利用 “模型绝对密度距离（MADD）” 这一新型公平度量标准，独立于预测性能，分析模型的歧视行为，并通过可视化分析，对在线课程中预测学生成功的常见任务使用的几种常见预测分类模型进行了评估，表明公平的预测性能不能保证公平的模型行为和公平
PDFa year ago
欧盟非歧视法视角下的算法不公平：为何法律不是决策树
本研究旨在分析欧洲联盟的非歧视法与计算机科学领域先进的算法公正概念之间的重叠与区别，研究表明，当前的 AI 实践和非歧视法存在的局限性，对 AI 从业者和监管者有着重要的启示。
PDFa year ago