通过利用像素图像属性来缩小机器学习模型中的偏见,本文提出了一种新方法,该方法利用卷积神经网络(CNN)分类器通过训练小图像块来提取像素属性,从而实现区域性属性,进而提供有关重要信息在图像中分布的洞察力。通过在偏倚数据集中引入有针对性的噪声,限制神经网络学习这些偏见并强调主要属性,我们的方法证明了在严重偏倚的数据集上训练无偏分类器的有效性。
May, 2024
本文通过研究不同表示下的现有去偏方法的表现,旨在验证在面临数据集偏差问题时使用 DeCAF 特征的潜力,并就数据集偏差问题的哪些方面是已经解决的,哪些方面是需要解决的进行分析。
May, 2015
本研究提出了一种简单而有效的方法来诊断 CNN 的特征表示,以发现由数据库偏差引起的表示缺陷和失败模式,并使用隐含属性关系和基础真相关系进行比较来挖掘潜在关联性。实验表明该方法的有效性。
Oct, 2017
研究了四种归因方法在阿尔茨海默病分类任务中的有效性,并发现某些广泛使用的归因方法产生高度不一致的结果。
Sep, 2019
探索透视医学影像分类应用的影响映射方法和度量评估,提出 EvalAttAI 度量已有度量的局限并进行改进,结果显示:使用 Vanilla Gradient 方法的贝叶斯深度神经网络通常更具可解释性。
Mar, 2023
通过一种新的分析框架,我们展示了如何系统性、客观地研究医学图像中的偏见对人工智能模型的影响,并评估偏见缓解策略在性能差异方面的有效性,从而支持开发健壮、负责任的临床人工智能。
Nov, 2023
本研究从人类参与和解释性的角度出发,探究了 ConvNets 和 Imagenet 在图像分类上的性能、鲁棒性和偏差问题,并以实验和工具提出了解释作为改善模型可靠性和理解性的有效手段。
Nov, 2017
本文探讨了卷积神经网络的形状偏差属性,通过使用将亮度反转的负图像等度量方法评估 CNNs 的形状偏差属性,进行大规模实验并研究了不同因素,如训练数据、模型架构、初始化和规则化技术,对 CNNs 形状偏差属性的作用。结果表明,CNNs 不会固有地表现出形状偏差,但是适当初始化模型或适当增强数据和使用批归一化技术,可以使 CNNs 学习和推广结构。
Mar, 2018
本文重点研究时间序列分析,对比了几种最先进的卷积分类器解释方法,发现扰动法是较优选项,但也强调选择最适合的归因方法与所需用例的选择密切相关。
Feb, 2022
本研究通过重构和最小化预期变量之间的统计相依来解决图像训练数据偏见的问题,使用包含 U-net 和预训练分类器的架构,将所提出的模型与最新的去偏见方法进行了对比,并展示了模型的公正性 - 准确性组合。
Sep, 2022