通过交互式视觉分析消除机器盲区的系统误差
本文通过一种新的方法,将人类的视觉分类器的偏见转移到了机器的视觉识别系统中,在很少的训练数据情况下,结果表明,将这种人类的偏见转移给机器可以帮助目标识别系统更好地推广和表现。
Oct, 2014
该研究设计和评估了 2 个交互式可视化工具,帮助不同水平的机器学习专业人员提高计算机视觉模型的构建效率和选择性能较差的模型,减少改进模型所需的努力。
May, 2023
通过系统文献综述,我们发现大多数通信学者没有考虑分类器的误分类偏差。我们介绍并测试了 “gold standard” 验证数据的错误校正方法,并通过蒙特卡罗模拟来揭示每种方法的局限性。我们推荐我们设计和实施的新方法作为更有效的误差校正方法。
Jul, 2023
VISPUR 是一个视觉分析系统,通过提供因果分析框架和以人为中心的工作流程,帮助人们识别和理解虚假关联,并做出负责任的因果决策。
Jul, 2023
我们提出了一种高效侦测潜在假相关的通用方法,相对于现有技术需要更少人工干预,并且在消除像素级注释的同时提供直观的解释。此方法对 AI 生成的图像的特殊性表现出容忍度,而这是一个相当具有挑战性的任务,大多数现有方法在此方面存在不足。因此,我们的方法也适用于检测由生成模型产生的可能会传播到下游应用程序中的假相关。
Nov, 2023
该文介绍了一种利用神经网络最终隐藏层相似输入具有相似表示的特性,寻找模型表现不良区域方法,旨在发现不符合显式标记子组的系统误差,并演示了该方法在计算机视觉、自然语言处理和推荐系统等多个现有模型中表现出的语义相关的弱点区域。
Jul, 2021
提出了一种基于交互式支持系统,结合基于知识驱动和数据驱动的机器学习方法以及人类专业知识,并实现用户反馈与决策透明解释,减轻人类负担且尊重其专业性和主观能动性的方法,以及用于工业质量控制中的良品检测任务的模式分类算法。
Mar, 2022
通过可交互的证明助手,开发者能够证明机器学习系统的正确性,这种方法暴露了所有的实现错误,并通过 Certigrad 实现了优化的随机计算图,并生成了一个机器可验证的证明,证明了系统采样的梯度是数学梯度的无偏估计方法。
Jun, 2017
机器视觉算法对图像的处理和决策至关重要,但是数据集中的错误可能会导致认为黑人是大猩猩或搜索结果中误代表某些族裔,本文追踪数据集中的错误及其影响,揭示了一个缺陷的数据集可能是类别有限、数据来源不全和分类不当的结果。
Nov, 2022
本研究提出了一种自动学习可解释规则的元学习方法,应用在 NLP 系统上,用以了解和改善系统的错误表现,并取得了一定的性能提升。该方法通过对验证数据的错误案例进行元特征提取以及规则学习,成功地为 VilBERT 和 RoBERTa 建立了可解释规则,进一步提高了系统表现。
Jan, 2022