卷积神经网络的量化语义比较

Apr, 2023

Quantified Semantic Comparison of Convolutional Neural Networks

Georgii Mikriukov, Gesina Schwalbe, Christian Hellert, Korinna Bade

TL;DR本篇论文提出两种方法来量化 CNN 潜在空间中语义信息的相似度，以解决模型透明性问题。通过将这些方法应用于三种不同的目标检测器和两个数据集，我们的研究表明相似的语义概念是在所有 CNN 体系结构中学习的，且相似的概念出现在相似的相对层深度中，而与总层数无关。该研究成果有望实现 CNN 模型选择的知情和语义信息处理的理解。

Abstract

The state-of-the-art in convolutional neural networks (CNNs) for computer vision excels in performance, while remaining opaque. But due to safety regulations for safety-critical applications, like perception for automated driving, the choice of model should also take into account how c

convolutional neural networks computer vision semantic information model transparency explainable artificial intelligence

发现论文，激发创造

卷积神经网络的语义解释：什么使得一只猫成为猫？

本文提出了语义可解释人工智能（S-XAI）框架，利用基因算法发现的最佳超像素的共同特征和可视化技术提取了理解的语义空间，同时提供了语义空间的统计解释和语义概率的概念。实验结果表明，S-XAI 在为 CNN 提供更好的语义解释方面是有效的，具有广泛的应用价值，包括可信度评估和语义样本搜索。

Apr, 2022

语义和数量化解释神经网络

本篇论文提出了一种从卷积神经网络中提取和解释知识的方法，并通过可解释的加性模型量化地解释了神经网络预测的理由，解决了可解释性问题和 Typical Bias-Interpreting 问题，并通过实验证明了该方法的有效性。

Dec, 2018

使用深度卷积网络的语义感知图像压缩

应用深度学习的方法解决在损失图像和视频压缩中提高视觉质量的问题，通过训练一个特定的卷积神经网络，实现对图像语义的理解，并通过对每个对象训练特征的方式生成高质量的压缩图像。

Dec, 2016

网络解剖：量化深度视觉表示的可解释性

本研究提出了一种称为网络切片的通用框架，通过评估个体隐藏单元与一组语义概念之间的对齐来量化 CNN 的潜在表示的可解释性。该方法使用广泛的视觉概念数据集来评估中间卷积层中隐藏单元的语义。使用该方法测试单元的可解释性是否等同于单元的随机线性组合，然后将其应用于比较训练不同监督和自监督任务的各种网络的潜在表示。进一步分析了训练迭代的效果、比较了不同初始化的网络的效果、检查了网络深度和宽度的影响，并测量了深度视觉表示的可解释性的 dropout 和批标准化的影响。结果表明该方法能够揭示超出 CNN 模型和训练方法辨别能力之外的一些特征。

Apr, 2017

基于目标的稀疏潜在特征的全卷积网络的概率相似性证据

利用神经网络进行相似性分析是一种理解和分类各个领域中复杂模式的强大技术。本研究探讨了完全卷积网络（FCNs）生成的潜在信息在相似性分析中的应用，特别是用于估计二维图片中对象的视觉相似度。这一分析方案包括两个步骤：（1）从经过训练的 FCN 中提取和转换每个二维对象的特征模式，（2）通过模糊推理来识别最相似的模式。通过考虑分析中潜在变量的重要性，可以进一步增强第二步，并提供有关使用基于神经网络的相似性分析有效地辨别数据模式的好处和挑战的宝贵见解。

Jul, 2023

通过复杂性约束的描述性自编码实现可解释的概念相似度度量

图像相似度的量化是图像机器学习的一个关键版权问题。本文提出了一种基于概念相似性的图像相似度度量方法，通过生成逐渐复杂的图像描述来衡量相似度，该方法在图像对比和文本对比中表现优于现有基准，并通过指示差异描述粒度提供了解释性。

Feb, 2024

可视化和比较卷积神经网络

该研究试图通过两个方面对 CNN 的内部表示进行探究，即可视化不同层级所构建的表示空间中的补丁和可视化每个层中保留的视觉信息，进而比较不同深度的 CNN 的优势。

Dec, 2014

利用卷积神经网络捕获实体链接的语义相似性

使用卷积神经网络对实体链接中的上下文信息进行建模，以获取语义对应关系，结合稀疏线性模型，实现了多种实体链接数据集的最佳结果。

Apr, 2016

条件相似网络

本篇论文提出了一种称为 “条件相似性网络” 的方法，用于学习分离式嵌入，不同的相似性概念被编码在不同的语义子空间，并用于解决多个不同相似性概念的问题。

Mar, 2016

评估 CNN 的语义概念表示稳定性，以获得稳健的可解释性

本文研究证明，卷积神经网络中如何表示语义概念并在可解释人工智能中的重要性，针对对象检测卷积神经网络的后处理解释阶段，提出了新型的概念稳定度度量标准，并探索了概念训练样本数量、卷积神经网络规模及概念表示维度等方面对稳定度的影响，对于稳定度低的浅层梯度不稳定情况，使用梯度平滑技术进行解释，为安全关键型的可解释人工智能应用选择合适的层和概念表示维度提供了宝贵的见解。

Apr, 2023