Jul, 2023

理解卷积神经网络的前向过程

PDF
TL;DR该研究揭示了 CNN 前向处理中的选择性旋转，阐明了激活函数作为一种辨别机制，统一并量化输入数据的旋转特性。实验证明了该定义方法如何反映进展网络根据统计指标区分输入，这可以通过应用结构化数学工具来理解或分析。我们的发现还揭示了人工神经网络和人脑在数据处理模式上的一致性。
发现论文，激发创造
  • 使用前向 - 前向算法训练卷积神经网络

    探索了前馈算法在卷积神经网络中的应用，并使用新的标记技术，在 MNIST 手写数字数据集上实现了 99％的分类准确率，并比较了不同超参数对算法性能的影响。

    Dec, 2023

  • 理解卷积神经网络在文本分类中的应用

    本文研究了卷积神经网络在文本处理中的工作原理。作者发现，使用不同的神经元激活模式可以捕获不同的语义类别的 N-gram，并且 Max-pooling 操作可以区分出重要的 N-gram。最后，作者给出了基于研究结果的实际应用，包括模型可解释性和预测可解释性。

    Sep, 2018

  • 通过输入重采样实现卷积神经网络的可视化解释

    我们提出了一种通过检测神经网络中的信息流来分析预测的框架，该框架使用两个指标选择神经元，这些神经元既对网络输出产生巨大影响又能激活通用特征并比较不同度量筛选的神经元集合，从而提出了一种调查卷积神经网络内部注意机制的方法。

    Jul, 2017

  • 卷积神经网络识别图像处理操作

    本研究提出了一种基于卷积神经网络的方法，适应性地学习鉴别特征以识别典型的图像处理操作，其优于基于手工特征及三个与图像隐写和 / 或取证有关的基于卷积神经网络的方法，且取得了最先进的结果。

    Sep, 2017

  • 基于 CNN 学习的非线性卷积滤波器

    研究表明，在计算模型的视觉皮层中开发基于 Volterra 核的二阶卷积方法，可以增加卷积层的表达能力，在 CIFAR-10 和 CIFAR-100 数据集上，使用线性和非线性滤波器相结合的卷积网络可以超越使用相同体系结构的标准线性滤波器的网络的性能，取得与最先进水平相当的结果。

    Aug, 2017

  • 卷积神经网络如何看待世界 - 卷积神经网络可视化方法综述

    本文综述了通过 Activation Maximization、Network Inversion、Deconvolutional Neural Networks (DeconvNet) 以及 Network Dissection 等可视化手段实现 CNN 可解释性的方法，并探讨了这些方法在网络设计、优化和安全增强等领域中的实际应用价值。

    Apr, 2018

  • 卷积神经网络中关键路径精简

    通过分析卷积神经网络中的滤波器激活、梯度和可视化滤波器的功能，我们揭示了信息流的关键路径，并以其排他性的内在属性为基础，提出了一种关键路径蒸馏方法，可以有效地将卷积神经网络定制为具有更小的模型大小和更少计算量的小型网络。

    Oct, 2018

  • 使用数学模型理解卷积神经网络

    本研究利用 RECOS 模型解释了卷积神经网络（CNN）的非线性激活函数的必要性，探讨了两层级联系统相对于一层的优势，并将 RECOS 模型推广到了多层系统中。

    Sep, 2016

  • 四元数卷积神经网络：当前进展与未来方向

    本文介绍了关于四元数卷积神经网络 (QCNNs) 的发展、目前的趋势和在设计 QCNN 模型中使用的主要模块，并提出了未来的研究方向。

    Jul, 2023

  • 初级视皮层旋转等变卷积神经网络模型

    本文研究了鼠视觉皮层神经元的处理方式，通过使用旋转等价卷积神经网络提取共性特征并与传统模型进行比较，发现传统线性 - 非线性模型存在不足，但卷积神经网络能够更加准确地预测自然刺激下神经元的反应，且 V1 神经元存在一些与传统 Gabor 过滤器不同的共性特征，这对研究 V1 中的非线性计算具有重要意义。

    Sep, 2018