Jul, 2021

聚光灯：一种发现深度学习模型系统误差的通用方法

PDF
TL;DR该文介绍了一种利用神经网络最终隐藏层相似输入具有相似表示的特性，寻找模型表现不良区域方法，旨在发现不符合显式标记子组的系统误差，并演示了该方法在计算机视觉、自然语言处理和推荐系统等多个现有模型中表现出的语义相关的弱点区域。
supervised learningsystematic errorsneural networkspotlightweakness
发现论文，激发创造
  • 识别图像分类器在稀有子组上的系统误差

    使用 PromptAttack 在图像分类器中识别具有普遍错误的子组。

    Mar, 2023

  • 通过交互式视觉分析消除机器盲区的系统误差

    该研究提出了一种视觉分析系统（ESCAPE），通过人类参与者的观测和量化，以及减轻偏见的解决方案（debias 方法），在避免人工智能盲点（AI blindspots）和系统性错误方面具有较高的实用性。

    Mar, 2023

  • 响亮地失败：检测数据集漂移方法的实证研究

    本文探讨机器学习系统在面对各类输入时，如何通过检测数据集漂移并量化其恶性，从而建立高鲁棒性的系统，同时提出使用预训练分类器的双样本测试法在多种数据集漂移情况下表现最佳，且判别方法有助于定性确定数据集漂移的影响。

    Oct, 2018

  • 一种低成本的策略性监控方法，用于深度神经网络中的可扩展和可解释的错误检测

    我们提出了一种高度紧凑的运行时监控方法，用于从仅有少量（甚至仅两个）隐藏层中提取选择性知识，并能有效地检测来自硬件内存和输入故障的静默数据损坏。该方法通过 strategically placed quantile markers 在受影响的网络层的激活分布中准确估计当前推断的异常情况，从而实现对正常和异常行为的可解释性分类。该技术在检测上实现了高达 96% 的精确度和 98% 的召回率，并且与最先进的异常检测技术相比，它需要最小的计算开销（仅为非监督推断时间的 0.3%）并有助于模型的可解释性。

    Oct, 2023

  • 借鉴他人的经验：避免数据集偏见的模型无关方法

    通过限制处理数据的模型容量，利用其错误来训练更加健壮的模型，从而解决自然语言处理模型对数据集偏见的问题，并且在数据分布发生变化时具有良好的可移植性。

    Dec, 2020

  • 提高计算机视觉制造缺陷检测鲁棒性的一种新策略

    本研究探讨利用深度学习技术进行视觉品质检测问题，针对工业制造中数据重复性高的情况，提出通过学习数据中的特定缺陷类型来训练检测模型，从而使其更能检测出在新情况下出现的缺陷。同时，研究对泛化的影响，以训练在更广泛的条件下工作的模型。

    May, 2023

  • 看见不可见之物：视觉数据集中的错误和偏差

    机器视觉算法对图像的处理和决策至关重要，但是数据集中的错误可能会导致认为黑人是大猩猩或搜索结果中误代表某些族裔，本文追踪数据集中的错误及其影响，揭示了一个缺陷的数据集可能是类别有限、数据来源不全和分类不当的结果。

    Nov, 2022

  • 通过简单偏好的视角早期识别训练中的伪偏差

    研究表明，梯度下降训练的神经网络具有归纳偏差，倾向于学习简单的解决方案，导致学习到与标签高度相关的简单虚假特征而非复杂的核心特征，此文介绍一种名为 SPARE 的方法，能够早期发现含有虚假相关性的大型分组，并利用重要性抽样来平衡组大小，从而减轻虚假关联的影响，相对于现有方法，SPARE 方法的最差组准确度提高了最高达 5.6%，速度提高了多达 12 倍。

    May, 2023

  • 深度神经网络计算机视觉中的黑盒错误诊断：工具综述

    本论文调查了支持黑匣子性能诊断范式的工具，以深度神经网络为基础，探讨了模型行为和预测误差的诊断过程，并讨论了相关研究方向和除 CV 外的诊断工具的简要概述。

    Jan, 2022

  • 深度学习中小样本量问题的探究

    本文从输入空间、模型空间和特征空间三个角度出发，综述深度学习中针对小样本问题的算法，特别地介绍了动态注意力池化方法。该方法通过对特征图最具差异性的子区域进行全局信息的提取，显著提升了 ResNet 模型在 SVHN、C10、C100 和 TinyImageNet 这些小规模公开数据集上的性能。

    Aug, 2020