DeepView: 使用判别性降维将深度神经网络分类边界可视化为散点图

IJCAISep, 2019

DeepView: 使用判别性降维将深度神经网络分类边界可视化为散点图

DeepView: Visualizing Classification Boundaries of Deep Neural Networks as Scatter Plots Using Discriminative Dimensionality Reduction

PDF

Alexander Schulz, Fabian Hinder, Barbara Hammer

TL;DR本文提出利用区分维度约简的二维可视化方法将深度神经网络决策函数的一部分以及数据集的一部分可视化，从而检测模型对数据的不同属性（如异常值、对抗样本或毒瘤数据）的处理方式，该方法与现有文献中的解释方法互补，更有应用前景。

Abstract

machine learning algorithms using deep architectures have been able to implement increasingly powerful and successful models. However, they also become increasingly more complex, more difficult to comprehend and easier to fool. So far, most methods in the literature investigate the dec

machine learning deep neural network dimensionality reduction data visualization model interpretation

发现论文，激发创造

通过暗知识的视觉蒸馏解释深度分类器

本文提出了一种名为 DarkSight 的、灵感来源于 “暗知识” 的方式来可视化分类器的预测结果，实现了将深度分类器压缩成简化模型的同时进行降维，从而有效避免了标准降维方法所可能存在的不准确或者误导性的问题。与 t-SNE 的可视化方法相比，DarkSight 可视化更具信息量，并且可以通过分析 “暗知识” 量化预测结果的置信度。

Mar, 2018

ANALYTiC：机器学习中决策边界和降维的理解

使用主动学习和降维技术结合决策边界，提取轨迹数据中的模式和聚类特征，以提高轨迹标记的效率和准确性。

Dec, 2023

深度神经网络的决策边界特征化

本文提出了一种 Deep Decision boundary Instance Generation（DeepDIG）的方法，在决策边界附近通过生成样本来深入理解深度神经网络的工作机制和决策行为多方面特征。在多个数据集上进行了实验和测试。

Dec, 2019

紧紧抱住我！辨别特征对深度网络边界的影响

通过在反向鲁棒性领域借鉴工具并提出一种新视角，本文关注了神经网络决策边界的特性，研究表明神经网络对非判别特征具有高度不变性，其决策边界必须在训练分类器中采用某些特征才能存在，并且决策边界的构建对训练样本的微小扰动极其敏感。

Feb, 2020

通过视角辨别网络学习区分性三维形状表示

本文提出了一种基于深度学习的网络 - 视图识别网络（View Discerning Network），使用一个得分生成单元来评估 3D 形状上各个投影图像的质量，并加权以提高 3D 形状识别的效果，分别通过多通道得分单元和局部得分单元来评估不同方面的特征图的质量，并且在 ModelNet 和 ShapeNet Core55 上的实验证明了本文所提的网络表现出色，具有对物体遮挡和背景干扰具有很好的鲁棒性。

Aug, 2018

深度神经网络的决策边界研究：实证研究

深度学习神经网络中决策边界的演变及其对抗训练的影响等领域的问题研究。

Feb, 2020

基于维度驱动的标签噪声学习

本文提出了一种新的视角 —— 通过研究训练样本的深度表示子空间的维数，来理解在具有大量错误类标的数据集上训练准确的深度神经网络（DNNs）的普适性。根据这一发现，作者开发了一种新的维度驱动型学习策略，该策略在训练过程中监测子空间的维度并相应地调整损失函数，实验证明该方法可以高度容忍大量含有错误标签的数据，并能有效学习捕捉数据分布的低维局部子空间。

Jun, 2018

深度线性判别分析

本文提出了 Deep Linear Discriminant Analysis（DeepLDA）方法，通过在深度神经网络中，学习可分离的线性潜在表示以进行分类的降维。作者的目标是最大化特征分布的相似度以推广传统的 LDA 算法，通过三个基准数据集的评估，DeepLDA 在 MNIST 和 CIFAR-10 上得到了竞争性的结果，在 STL-10 上也优于使用分类交叉熵进行训练的网络。

Nov, 2015

深度神经网络分类区域

本文研究了深度神经网络在输入空间中的几何属性，通过系统实证研究发现，深度神经网络具有连通的分类区域并且其在数据点附近的决策边界在大多数方向上是平坦的，同时该文进一步证明了深度神经网络曲率决策边界的本质联系，最终提出了一种基于决策边界曲率的小型对抗样本检测方法。

May, 2017

NeuroDAVIS：一种用于数据可视化的神经网络模型

本文介绍了一种名为 NeuroDAVIS 的无监督深度神经网络模型，用于高维数据的降维和可视化，该模型在大量合成和真实高维数据集上表现出了竞争力，特别是在保留数据大小、形状和本地全局结构方面。

Apr, 2023