Nov, 2023

在机器学习项目中，通过偏差检测拓展具有可变性感知的模型选择

PDF
TL;DR该论文描述了将一个具有偏差检测的自适应可变性感知模型选择方法扩展到机器学习项目中的工作，该方法通过使用基于文献中提出的启发式方法的特征模型来对影响模型选择的因素的可变性进行建模，并在一个特定的案例研究中进行实验证明了该方法的有效性，并为机器学习项目中的模型选择提供了非特定、自适应和可解释的过程。
data sciencemachine learningmodel selectionbias detectionadaptive process
发现论文，激发创造
  • 利用模拟来识别人工智能中的偏见

    通过高保真计算机模拟和贝叶斯参数搜索，诊断机器学习模型中的偏倚问题，特别是面部识别商业 API 中的人口统计学偏见。

    Sep, 2018

  • 通过贝叶斯数据选择实现模型训练加速

    使用轻量级贝叶斯处理和基于大规模预训练模型的即用型零样本预测器，解决了现实场景中标记错误、重复或有偏差的数据在训练中的问题，提高了模型的训练效率。

    Aug, 2023

  • 朝向无需假设的偏见缓解

    通过建模特征交互来检测相关属性以减轻偏见影响的无假设框架，大大减轻了机器学习模型中针对特定人群的歧视和不公平预测行为。

    Jul, 2023

  • 利用弱监督学习方法消除机器学习模型中的偏见

    我们提出了针对连续敏感变量的偏见缓解策略，该策略基于经济计量学领域的内生性概念，并采用弱监督学习方法，对一小部分可进行公平测量的数据进行处理。结果表明我们的方法对实际应用的效果非常接近。

    Feb, 2024

  • 通过模型和数据偏差交互理解欺诈检测中的不公平性

    机器学习算法应用广泛，但也可能存在偏见和不公平。本研究提出了一种刻画数据偏见的分类法，并探究了算法的不公平和精度之间的权衡。实证研究表明，在不同的数据偏见设置下，算法的公平性和精度会受到不同的影响，而简单的预处理干预技术可以提高算法的公平性。

    Jul, 2022

  • 机器学习分类器偏见缓解方法的全面实证研究

    该研究对机器学习分类器的 17 种生动代表性偏差缓解方法进行了综合性的实证研究，在 8 种广泛采用的软件决策任务中应用了 11 种 ML 性能度量（例如，准确性）、4 种公平度量以及 20 种公平 - 性能权衡评估。在分析过程中，作者发现，无法在所有情境下达到最佳公平 - 性能平衡。

    Jul, 2022

  • 机器学习模型中的偏见和不公平性：系统性文献综述

    本研究旨在检查现有知识中关于机器学习模型中的偏见和不公平的研究，并识别减弱算法不公平和偏差的方法、公平性度量和支持工具。经过系统文献综述，发现了 40 篇可用于 Scopus、IEEE Xplore, Web of Science 和 Google Scholar 知识库的文章。结果表明，针对 ML 技术的多种偏见和不公平检测与减轻方法，在文献中定义了明确的度量标准，可以突出不同的度量标准。因此建议进一步研究，以定义在每种情况下应采用的技术和指标，以标准化并确保机器学习模型的公正性，从而允许最适当的度量标准来检测偏见和不公平。

    Feb, 2022

  • 语言引导的未知数据集偏差检测与减轻

    在这项研究中，我们提出了一种在没有先验知识的情况下通过关键词的部分出现来识别潜在偏见的框架，并进一步提出了两种去偏方法：(a) 通过指定伪标签将其传递给现有的需要先验知识的去偏方法，以及 (b) 通过文本到图像生成模型进行数据增强，使用获得的偏见关键词作为提示。实验结果表明，尽管简单，我们的框架不仅能在没有先验知识的情况下胜过现有方法，而且甚至可以与假设有先验知识的方法媲美。

    Jun, 2024

  • 公平混合效应支持向量机

    机器学习中的公平性与聚类数据对公平机器学习预测的影响，以及一种能够同时处理这两个问题的公平混合效应支持向量机算法。

    May, 2024

  • 数据审计：识别任务模型中的属性效用偏差和可检测性偏差

    本文提出了一种通过量化筛选医学图像数据集属性的风险，在确定性和效用之间进行分解的技术，以识别深度学习算法中可能导致偏见的细微因素，并通过通过真实反事实的比较性能证明了其有效性和灵敏度，最后将该方法应用于一种流行的皮肤病变数据集的自然属性中，并演示了其成功。

    Apr, 2023