- 更多探索的动态稀疏训练
本文提出了基于动态稀疏训练的稀疏连接性搜索问题的开发和探索获取函数,旨在使稀疏训练达到更高的准确性和更高的稀疏度,实验结果表明,相较于目前最先进的稀疏训练方法,在多项深度学习任务中,本文所提出的方法额外具有更高的准确性。
- CTMQ:具有多量化步骤的卷积神经网络循环训练
本文提出了一种通过多次循环训练来实现强化低位量化卷积神经网络性能的训练方法,该方法通过使用多个量化步骤,软性地将预训练模型的知识传递给低位量化模型,并采用循环训练来提高模型的准确性,使得该方法能够在 ImageNet 数据集上提高 ResN - EnHDC:基于集成学习的脑启发式高维计算
本文介绍了一种基于脑部启发的高维计算范例的集成学习模型 EnHDC,并表明 EnHDC 在各种应用场景中能够实现平均 3.2% 的准确率提高,并且 EnHDC 具有较低的存储需求,这对于在低功率计算平台上实现 HDC 具有重要意义。
- ECCVCAR: 语义分割的类别感知正则化
本文提出了一种基于类别感知的正则化方法,通过优化特征学习过程中的类内方差和类间距离来更有效地利用类别信息,该方法可以应用于大部分现有的分割模型,并且可以在不增加推理开销的情况下显著提高它们的准确性。
- SLIP: 自监督与语言图像预训练的结合
本文提出 SLIP,结合基于自监督的学习和 CLIP 预训练的多任务学习框架,通过在 ImageNet 和其他数据集上进行多个实验,发现 SLIP 表现出更好的性能,同时获得比基于自监督学习和语言监督学习更高的准确性提高。
- AAAIBNN 的弹性链接
提出了一种 Elastic-Link 模块并结合其他方法对 Binarized Neural Networks 进行训练,结果在 ImageNet 数据集上取得了较大的准确率提升,其中结合 ReActNet 的模型达到了 71.9% 的 t - 用数据为中心的方法训练深度神经网络减少数据
本论文总结了在数据中心人工智能比赛中的获胜结论,提出了针对小数据集训练的质量增强方法和基于生成对抗网络的数据点生成解决方案,并指出该管道生成的数据集在比基准要小的情况下提高了 5% 的准确度。
- CVPR高效修剪深层次、复杂卷积神经网络中的相似过滤器冗余
本文提出了一种新的 Centripetal SGD 方法,在卷积神经网络的训练过程中利用冗余性来便于网络修剪。C-SGD 使一些滤波器重复,从而产生理想的冗余模式,更好地组织冗余性以获得更好的性能。C-SGD 具有非常高的效率,无需微调,可 - AAAI一种基于强化学习的粗细粒度问答系统
本文提出了一种基于强化学习的粗到精问答(CFQA)系统,使用多步骤的深度强化学习模型来处理文档,可以处理较短或较长的文档,相较于先前的 QA 模型,在 WIKEREADING、WIKIREADINGLONG、CNN 和 SQuAD 等四个 - ICCVSAT: 2D 语义辅助的 3D 视觉定位训练
该研究提出了 2D Semantics Assisted Training(SAT)来提高 3D 视觉定位的准确性,通过学习丰富,干净的 2D 对象表示与 3D 场景中的对象或提到的实体之间的对齐关系,辅助 3D 视觉定位,将 2D 语义有 - CVPR大规模图像分类中相关的输入相关标签噪音
提出一种基于概率模型的方法来对大规模图像分类数据集中的标签噪声进行建模并进行准确性优化,该方法通过在神经网络分类器的最终隐藏层上放置多变量正态分布的潜在变量来建立噪声的协方差矩阵,并且在多个基准测试数据集上表现出显著提高的准确性。
- 正交化和感应稀疏化改进分子图神经网络解释性
通过使用 Batch Representation Orthonormalization (BRO) 和 Gini regularization 的方法,在图卷积神经网络(GCNN)的训练过程中使预测更加准确。这种方法可以应用于其他类型的神 - CVPR利用不平衡激活分布提高二值神经网络的准确性
本文提出二值化神经网络模型的精度问题,并指出通过不平衡激活分布以及调整二值激活函数的阈值,可以在不改变其他结构的情况下提高二值神经网络模型的精度。
- CVPR仅旋转束调整
提出一种新方法来独立估计相机的全局旋转,从而改进旋转平均的精度,并且对不准确的平移和结构具有完全免疫力。
- COLING使用括号编码进行二平面依存句法分析
本文提出一种基于括号的编码方法来表示依存句法树,通过利用 2-planarity 的特性进行编码以实现对非投影树的几乎完全覆盖,并在高度非投影树库上提高 0.4% LAS 的准确性。
- AAAI图像分类的明确建模注意力图
本文介绍了一种新的自我注意力模块,使用一种明确建模的注意力映射,利用几何先验来提高图像分类的准确性,实验证明该方法在 ImageNet ILSVRC 中的准确性提升了 2.2%,在参数和计算量分别减少 6.4% 和 6.7% 的情况下,相对 - 有损后训练量化
研究神经网络量化对损失函数的结构的影响,证明在轻量量化时,损失函数的结构是平坦且可分离的,从而使得一些简单的后量化方法能够获得良好的结果。同时,提出了一种通过同时量化层参数来提高精度的方法。
- EMNLP实体链接技术优化细粒度实体类型划分
通过实体链接,结合上下文信息和查询结果,我们提出了一种深度神经模型,用于精细化实体类型分类。在两个数据集上的实验结果表明,相对当前最先进水平,我们的方法分别取得了超过 5%的绝对严格准确度提高。
- CVPR基于几何中位数的卷积神经网络滤波剪枝加速
通过数学中介数理论给出了一种新的滤波器压缩方法 FPGM,该方法完全不受 “小范数” 原则的限制,不仅能够压缩 CNN 模型,而且还能提高相对精度。
- 利用预训练于大型人脸识别数据集上的卷积神经网络进行视频情感分类
本文提出了一种由多个利用卷积神经网络和大规模人脸识别数据集进行训练得到的强大行业级人脸识别网络组成的集成模型,该模型对视频中的空间和音频特征进行捕获,从而提高情绪识别的准确性,并在不使用视觉时间信息的情况下,将测试集的最佳结果提高了约 1%