在攻击模型的黑盒情况下，特别是在有防御机制的情况下，传统的对抗攻击往往会表现出弱的可迁移性。本文提出了一种新的名为方差调整的方法来改善梯度攻击的可迁移性，并在标准 ImageNet 数据集上证明了该方法的有效性，成功率平均提高了 85.1％。

Mar, 2021

本文提出了一种利用方差系数确定权重，进而平衡单任务的多个损失函数的方法，并在深度估计和语义分割任务上进行了实验证明了可行性。

Sep, 2020

基于初始化的无初始化捆绑调整问题的求解方法相对较少，与 Levenberg-Marquardt 算法相比，未充分探索的 Variable Projection 算法展现了宽广的收敛区域，结合对象空间误差构建，最近的研究已经展示了其无初始化捆绑调整问题求解的能力，本研究引入了基于幂级数的反转扩展方法来扩展 Power Variable Projection，将幂级数扩展与 Riemannian 流形优化相连，这一投影框架对于无初始化的大规模捆绑调整问题求解至关重要，实验证明，使用真实世界的 BAL 数据集，我们的求解器在速度和准确度方面达到了最先进的结果，特别地，我们的工作是首次解决了无初始化 BA 的可扩展性，并为无初始化的结构运动打开了新的研究方向。

May, 2024

研究了分布式优化问题，在量化梯度、降低方差的基础上，提出新的缩短收敛时间的方法，实现了对于任意量化梯度的线性收敛，解决了弱凸和非凸问题，并在实验中验证了其效率优于传统方法。

Apr, 2019

本文提出了一种用于降低分布式深度学习通信开销的方法，通过延迟梯度更新以使得梯度可以在计算出高幅度、低方差的梯度后进行。在实验中，我们证明了该方法能够在保持模型准确性的同时实现非常高的压缩比，并分析了使用计算模型和通信模型的效率，提供了该方法能够实现在许多场景下使用基础设施的证据。

Feb, 2018

机器学习的经典智慧认为泛化误差可以从偏差和方差两个方面进行分解，并且这两个术语之间存在一种权衡关系。然而，在本文中，我们展示了对于由深度学习为基础的分类模型集合，偏差和方差在样本级别上是一致的，其中对于正确分类的样本点，平方偏差近似等于方差。我们通过实证证据在多种深度学习模型和数据集上验证了这一现象。此外，我们从两个理论角度研究了这一现象：校准和神经坍缩。我们首先理论上证明在模型被很好地校准的假设下，我们可以观察到偏差 - 方差一致性。其次，从神经坍缩理论提供的视角出发，我们展示了偏差和方差之间的近似相关性。

Oct, 2023

本研究介绍了一种通用框架，用于学习随机变量的黑盒函数的低方差、无偏梯度估计器，并应用于训练离散潜变量模型以及提出了基于优势演员 - 评论家强化学习算法的无偏、行为条件扩展。

Oct, 2017

通过对近似贝叶斯神经网络（BNNs）的分析，扩展了边界损失和解决方案插值的形式，并提出了一种匹配算法来寻找线性连接的解决方案。实验证明，在各种体系结构和数据集上，线性连接的解决方案几乎没有边界损失。

Oct, 2023

本文提出一种基于无监督学习的单目视觉里程计系统，结合图优化和回路检测，利用神经网络构建一个包含多视图 6DoF 约束的窗口位姿图，并提出了一种姿态周期一致性损失来改善性能和鲁棒性，进而构建全局位姿图进行优化，实验结果表明该方法具有良好的性能和精度。

Mar, 2019

本文提出了一种轻量、统计鲁棒的框架，利用符合推理来提取视觉坐标自适应预测间隔的不确定性，勾画了生成深度神经网络、蒙特卡洛 Dropout、区间打分和校准损失等技术，从而改善不确定性感知学习对于决策领域的应用。

Mar, 2023