稀疏卷积网络的二值化在点云分析中的高效应用
本文介绍了一种新型的基于拼贴的稀疏卷积算法,通过利用计算掩码的稀疏结构,降低了 CNN 中高分辨率计算的复杂度,并应用于基于 LiDAR 的 3D 目标检测中,最终获得了显著的速度提升而无需牺牲准确率。
Jan, 2018
本文提出一种直接以高维网格中的稀疏采样点集合形式处理点云的网络架构,采用稀疏双边卷积层作为构建块,实现对网格的有效卷积计算,可以灵活地进行分层和空间感知特征学习,并且可以轻松地将基于点或基于图像的表示方法应用于网络中,实验证明本文的方法在三维分割任务中胜过现有的最先进技术。
Feb, 2018
提出了一种轻量级的 Sparse Point-Voxel Convolution 模块作为基础,通过基于 SPVConv 的灵活体系结构设计空间,实现了 3D Neural Architecture Search 以搜索高效而有效的网络体系结构,并将该方法应用于自动驾驶和 3D 目标检测领域,取得了较好的实验结果。
Jul, 2020
本研究提出了一种新的稀疏卷积操作,旨在更高效地处理空间稀疏数据,并使用其开发出空间稀疏卷积网络 (SSCNs)。我们在涉及三维点云的语义分割任务中展示了这种模型的强大性能,特别是我们的模型在最近一个语义分割竞赛的测试集上超越了所有以前的最新技术。
Nov, 2017
本文提出了一种改进的训练方法来提高具有更高准确性的紧凑型二值化 CNN,其中可训练的权重和激活的比例因子被引入以增加值范围,并通过反向传播与其他参数一起进行训练。通过这些改进,与前人工作相比,本文二值化 CNN 在 CIFAR-10 上的准确度达到 92.3%,在 ImageNet 上,我们的方法用 AlexNet 获得 46.1%的 top-1 准确度,用 Resnet-18 获得 54.2%的 top-1 准确度。
Sep, 2019
本文提出一种基于二次幂值的、专注于稀疏 CNN 的量化策略,并结合无损编码构建一种高压缩比、计算成本低、准确率几乎无损的压缩管线,在 ResNet-50 网络上实现 18.08x CR 的压缩效果,同时也证明更硬件有效。
Mar, 2019
本文提出了一种用于处理稀疏数据的卷积神经网络架构,采用了一种稀疏卷积层,能够在深度上采样中取得优异的实验效果,作者构建了一个新的基准数据集 KITTI benchmark 进行了验证。
Aug, 2017
通过引入球体金字塔结构和基于哈希的表示,本文提出了一种新颖的 Spherical Frustum sparse Convolution Network (SFCNet) 方法,实现了 LiDAR 点云的语义分割,避免了量化信息损失。
Nov, 2023
提出了比特级稀疏量化法(BSQ),通过引入可微比特稀疏正则化,考虑量化权重的每一位作为一个独立可训练变量,实现了每组权重元素的全零位诱导以及实现动态精度降低,使得在 CIFAR-10 和 ImageNet 数据集上相对于以往方法,BSQ 在各种模型体系结构上获得更高的准确性和比特削减。
Feb, 2021
本文介绍 TorchSparse,一种高效的基于 GPU 加速的稀疏卷积计算引擎,应用于 AR/VR、自动驾驶等方面。通过采用自适应矩阵乘法分组技术和集成向量化、量化及融合的本地化优化存储访问技术,实现了 1.4-1.5 倍的速度提升和 2.7 倍的内存移动代价降低,相较当前最优方法 MinkowskiEngine 和 SpConv,分别实现了 1.6 倍和 1.5 倍的整体加速效果。
Apr, 2022