Apr, 2024

TabConv: 通过表查找实现低计算量的 CNN 推理

PDF
TL;DR通过引入 TabConv 技术，本研究提出了一种基于表格的近似卷积方法，显著减少了卷积推理中的算术运算量，同时通过基于余弦相似度的优先掩码技术选择层级进行表格近似，从而保持了模型性能，并在多个常用 CNN 模型上进行了评估，实现了低计算量的推理。
convolutional neural networkstabconvhardware-supportedalgorithmic accelerationlow-computation inference
发现论文，激发创造
  • 深度卷积表：没有卷积的深度学习

    本文提出了一种新颖的深度网络形式，该形式不使用点乘神经元，而是依靠一系列投票表来加速基于 CPU 的推理，被称为卷积表（CT），该表在每个图像位置执行蕨操作：将位置环境编码为二进制索引，并使用索引从表中检索所需的局部输出，多个表的结果组合以获得最终输出。

    Apr, 2023

  • DietCNN: 量化卷积神经网络的无乘法推理

    本文提出了一种基于表查找的 CNN 乘法运算替换方法，可以显著减少在嵌入式设备上进行推理时的能耗，并且适用于现有 CNN 操作机制，能够显著提高嵌入式系统中小型模型的资源利用和深度推理的延迟。

    May, 2023

  • TCN：用于 Web 表格解释的表卷积网络

    本文提出一种基于表格卷积网络的关系表格表示学习方法，旨在有效获取短尾信息，充实知识图谱，并考虑从不同角度聚合多类型隐含连接的单元格内和跨表的语境信息，实验表明本方法在真实 Web 数据集上可以有效预测列类型和对列关系，大幅提升了预测准确率。

    Feb, 2021

  • 同调卷积神经网络

    通过在稀疏的表格数据中利用拓扑约束网络表示结构，我们提出了一种新颖的深度学习架构，利用卷积提取空间信息，并通过网络拓扑的有限概念来确保数据导向、可解释性和可扩展性，在 18 个基准数据集上测试表明，我们的方法在这些具有挑战性的数据集上达到了最先进的性能。

    Aug, 2023

  • Tabula: 安全神经网络推断的非线性激活函数的高效计算

    该研究通过采用安全查找表的算法 Tabula，代替使用加密电路进行神经网络推断所需的非线性激活函数加密计算，以此降低了通信、存储和运行成本，并在安全神经网络推断时实现了显著的性能提升。

    Mar, 2022

  • 基于查找的卷积神经网络（LCNN）

    本研究提出了一种快速、紧凑且准确的卷积神经网络模型 LCNN，能够在资源受限的平台上实现高效的学习和推断，在 ImageNet 数据集上取得了较好的速度和精度表现，并展示了其在深度学习模型的设备端训练中的优势。

    Nov, 2016

  • CascadeTabNet：一种端到端的基于图像文档的表格检测和结构识别方法

    本篇论文提出使用单个深度卷积神经网络（CNN）模型的改进型深度学习端到端方法：CascadeTabNet，用于解决表格检测和结构识别的两个问题，并通过有效的迁移学习和图像增强技术在 ICDAR 2013、ICDAR 2019 和 TableBank 数据集上达到了最佳结果。

    Apr, 2020

  • 基于真值表的可扩展、可解释、可验证、可微分逻辑门卷积神经网络结构

    本论文提出了一种名为 Truth-Table Net（TTNet）的卷积神经网络结构，该结构通过设计解决了可解释性、形式验证和逻辑门转换等难题，并在多个数据集上显示出与决策树可比的可解释性、快速完整合规验证和可扩展的逻辑门表示。

    Aug, 2022

  • SBNet: 用于快速推断的稀疏块网络

    本文介绍了一种新型的基于拼贴的稀疏卷积算法，通过利用计算掩码的稀疏结构，降低了 CNN 中高分辨率计算的复杂度，并应用于基于 LiDAR 的 3D 目标检测中，最终获得了显著的速度提升而无需牺牲准确率。

    Jan, 2018

  • 模糊卷积神经网络用于表格数据分类

    本研究通过提出的模糊卷积神经网络（FCNN）模型对表格数据进行分类，通过实验证明该模型在学习有意义的表征方面表现出竞争性或优越性能，为结构化数据分析提供了新的机会。

    Jun, 2024