- ZerNet: 通过 Zernike 本地切空间估计在任意曲面上使用卷积神经网络
本文提出了使用正交基函数 Zernike 多项式在二维流形上扩展卷积神经网络的新方法,用于对几何特征进行编码和数学量化,并实现了 CNN 基本构建块的数学推广。
- 事件相机的异步空间图像卷积
使用内部状态直接处理事件流,避免合成伪图像帧,实现了事件相机输出与线性空间卷积的计算方法,应用于提取角点等高级视觉算法中并可用于机器人系统的实时特征检测和跟踪。
- 基于等变卷积的多向流动地球神经网络
本文提出一种新的方法,可以在曲面上执行信号卷积,并展示其在各种几何深度学习应用中的效用。关键在于基于曲面定义的方向性函数,可以自然地与真实值模板函数进行卷积,并在神经网络的不同层之间保留所有旋转的信息,从而允许传播和关联定向信息。
- 卷积神经网络的惊人失败及其 CoordConv 解决方案
本篇论文通过坐标转换问题展示了卷积神经网络的局限性,提出了 CoordConv 解决方案,它通过在卷积中引入额外的坐标通道,为神经网络提供了输入坐标的信息,从而可以学习任意程度的平移不变性和变化的空间表示。CoordConv 具有比卷积更高 - 平行输运卷积:流形上卷积神经网络的新工具
本文提出了一种新的卷积操作的泛化,称为并行传输卷积,在黎曼流形及其离散对应物上设计,以达到在弯曲的域上进行 wavelet-like 操作和定义深度卷积神经网络的目的。
- ICLRQANet: 将局部卷积和全局自注意力相结合用于阅读理解
本文提出一种名为 QANet 的新型机器阅读和问答架构,它没有使用循环神经网络,而是仅由卷积神经网络和自注意力机制组成,可在训练和推理期间实现更快的速度,并在测试集上实现了 84.6 F1 得分,超过了最佳发布 F1 得分 81.8。
- ECCV多尺度空间非对称再校准图像分类
本文提出了一种名为多尺度空间非对称重新校准的方法,在残差块和密集连接块等多个流行的模块上实现,并证明其在 CIFAR 和 ILSVRC2012 分类任务中具有优越的性能表现,通过从多个尺度提取周围区域的信息,不对称的空间加权方案来提高卷积能 - 通过扩展算子的点卷积神经网络
本文介绍了点卷积神经网络(PCNN)的框架和两个算子:扩展和限制。此外,还定义了点云卷积的概念,其具有高效性,不受各种因素的影响,并可将卷积核用于任何点云中。通过三项常见的点云学习基准测试,证明了 PCNN 方法的有效性。
- 利用和保持卷积网络中的稀疏性的推断、学习和注意力机制
本文介绍一种利用 CNNs 去处理罕见数据的工具套件,包括直接稀疏卷积、注意力机制避免填充,以及适用于标准学习框架的反向传播算法改进,可以实现比传统密集框架更低的内存足迹和计算时间。
- 基于低内存 GEMM 的深度神经网络卷积算法
本文提出两种新型基于 GEMM 的算法,分别只需要额外的 O (MHW) 和 O (KW) 的空间,显著降低了 DNN 卷积的空间开销,适用于内存受限的嵌入式系统,并且实验表明我们的低内存算法和最好的图案构建方法一样快,尽管需要的额外内存只 - ICCV深度神经网络的交错分组卷积
本文介绍了名为交织组卷积神经网络(IGCNets)的简单和模块化神经网络架构,讨论了其在提高计算效率方面的优势,并通过对标准基准测试的实证结果证明其更有效地利用参数和计算复杂度。
- ICMLMEC: 深度神经网络的内存高效卷积
本文提出一种具有内存效率的卷积方法,即 MEC,使用简单且高效 / 紧凑的方式降低输入矩阵的内存开销,提高卷积运算速度,显著减少内存消耗,在移动设备和服务器平台上都具有良好的加速效果,适用于卷积运算的深度神经网络模型。
- 面向并行和分布式计算的编码卷积在时限内的应用
本文研究使用并行处理单元在 “关键时间” 分布式系统中计算两个长向量的卷积问题,提出基于编码的方案,有效提升了抗 Stragglers 能力,能显著提高在钟摆时间内完成计算的概率,并使用渐进失效指数分析技术,建立了一个新的分布式系统评估方法 - 正则化梯度下降:快速盲源分离和盲去卷积的非凸解法
提出一种在竞争性情况下能够保证精确复原的非凸算法,它具有计算效率更高的额外优势,可应用于无线通信中的物联网。
- CVPR反卷积层和卷积层是否相同?
本论文中,我们重点关注了关于我们所提出的网络模型的两个问题:我们提出的层和反卷积层之间的关系,以及为什么低分辨率空间中的卷积是更好的选择。通过实验我们发现对于相同的速度,将所有卷积都放在低分辨率空间中,比先在高分辨率空间中插值再进行卷积的方 - 非凸优化快速、强健和可靠的盲反卷积
研究了如何从卷积中恢复出两个信号 $f$ 和 $g$,提出了一种基于梯度下降的算法,能够高效、稳健地恢复 $f$ 和 $g$,并给出了一定子空间条件下的严格恢复保证。
- 基于深度学习的音频事件识别中时间域和频率域的对比
本文研究了深度神经网络对频域和时域音频信号进行特征学习的效果,并利用卷积和池化进一步提高了音频事件识别的性能,实现了最先进的结果。
- 用于源代码极端摘要的卷积注意力网络
本文中,我们介绍了一种利用卷积神经网络检测具有局部平移不变性和长远主题型注意力特征的关注神经网络,用于解决将源代码片段极端归纳为类似函数名称的概述的问题,在十个流行的 Java 项目中进行测试,并显示出优于之前注意性机制的性能。
- 通过结合卷积和循环层实现高效的字符级文档分类
本研究提出了一种利用卷积和循环层来高效编码字符输入的神经网络架构,用于文档分类任务,与仅具有卷积层的字符级模型相比,具有相当的性能而参数更少。
- 深度 SimNets
SimNets 是一种深度分层架构,在类卷积神经网络的基础上引入了相似函数与对数均值指数函数,从而实现了更强的表达能力和更广泛的特征空间,并且在计算资源受限的场景下具有显著的优势。