- 全球敏感性分析方法评述及基于数字分类的比较案例研究
综合评估全局敏感性分析方法,并提出一种评估方法,通过在 MNIST 数字数据集上进行案例研究,突出了这些方法的效果。
- 地标交替扩散
通过提出一种名为 Landmark AD (LAD) 的算法来改进 Alternating Diffusion (AD) 的计算效率,并将其应用于自动睡眠阶段注释问题。
- NiNformer:一种带有令牌混合生成门控函数的网络中网络 Transformer
该论文介绍了一种用于减少计算负担的新的计算模块,通过替换标准的注意力层为具有动态学习元素级门控函数的网络结构,增强了 MLP Mixer 的静态方法,从而在图像分类任务中比基准架构表现更好。
- 面向任务的扩散模型压缩
通过减小模型大小和减少时间步长,我们探索了基于任务的方式压缩 I2I 模型,并将其应用于图像编辑和图像修复任务,取得了满意的输出质量以及模型大小和延迟的显著减少。
- 具有掩码内外帧关注的视频超分辨率 Transformer
通过提出一种新颖的特征级遮蔽处理框架 MIA-VSR,本文解决了 Vision Transformer 在受限设备上应用的计算负担和内存占用过大的问题,并通过详细的消融研究验证了方法的有效性和与最新技术的比较结果。
- 运动引导的令牌压缩用于高效的掩码视频建模
通过提高 FPS 速率并使用 MGTC 方法,在视频理解方面取得了显著的性能提升,并在降低计算负担的同时保持了高的性能表现。
- 朝着计算高效的逆强化学习方向进发:通过奖励塑形
逆向强化学习是具有计算挑战性的,常见方法需要解决多个强化学习子问题。本研究激励使用基于潜力的奖励塑造来减轻每个强化学习子问题的计算负担,并希望能激发未来对计算效率高的逆向强化学习的发展。
- 选择性反向传播中梯度匹配的负面结果
通过选择最优匹配整个微批量平均梯度的(加权)子集,同时使用梯度作为廉价的代理,研究表明,无论是基于损失还是梯度匹配策略,都不能始终超越随机选择基准线,以加快深度神经网络训练过程中的计算速度。
- 在资源受限环境下利用知识蒸馏提升高效深度强化学习
通过挖掘深度强化学习(Deep Reinforcement Learning,DRL)与知识蒸馏(Knowledge Distillation,KD)相结合的潜力,本文通过蒸馏各种 DRL 算法并研究其蒸馏效果的方式,旨在减少深度模型的计算 - 查询驱动的物体检测器可设计成更少阶段吗?
该研究提出了一种名为 GOLO 的全局一次和局部一次(Global Once and Local Once)模型,通过减少解码阶段的数量,同时在性能上仍然取得了相当好的表现,从而改进了基于查询的目标检测器。在 COCO 数据集上的实验结果证 - 快速训练带有数据排序的 NMT 模型
提出了一种基于长度排序的算法,用于降低 Transformer 模型计算空标记的计算负担,以提高机器翻译的计算速度和性能。
- AAAI引导 Mixup:由显著图引导的高效 Mixup 策略
提出了一种新的基于 saliency-aware 的 mixup 方法 ——GuidedMixup,通过一种高效的配对算法来最小化配对图像的显著区域间的冲突,平滑地插值两幅图像以更好地保留显著区域,并且可以在分类数据集上提供良好的计算效率与 - ICML基于树形排列的离散树流
本文提出了一种构建基于决策树的离散流来降低计算负担和消除伪梯度需求的方法,包括定义一种树结构的置换来高效地计算密度值和样本新数据,以及使用新的标准在每个节点上学习树结构和置换,并在多个数据集上通过实验证明了我们方法的可行性。
- 动态特征金字塔网络用于物体检测
本文通过扩大特征金字塔网络(FPN)的感受野来增强空间信息,从而提高目标检测精度,提出了一种新的动态 FPN(DyFPN)方法,它可以通过适应性选择分支进行动态计算,以在维持高性能的情况下更有效地利用计算资源。实验证明,与基准模型相比,采用 - 连续时间限制下的元学习
本文研究了模型无关元学习(Model-Agnostic Meta-Learning, MAML)运动动力学的普通微分方程(ODE),提出了一种新的 BI-MAML 训练算法,可以显著减少现有 MAML 训练方法的计算负担,并通过理论分析和实 - 具有大量观测数据集的嵌套克里金预测
本文介绍了一种基于 Kriging 插值技术的嵌套预测器方法,通过聚合基于观测点子集的子模型来减轻计算负担,该方法在理论上具有比其他文献中的聚合方法更好的性能,并在模拟数据集和工业测试案例中进行了实际验证。
- 将 Fill 的完美拒绝抽样算法推广到一般链
将 Fill(1998)的完美采样算法推广到一般链,并描述如何使用边界过程来减轻计算负担。顺便提到了 Propp 和 Wilson(1996)发明的 CFTP 算法和我们对 Fill 算法的扩展之间的简单联系。