- 基于梯度的优化方法和变分不等式在机器学习中的温和介绍
机器学习中的快速进步基于与梯度优化的高效连接，在决策和多智能体问题上的转变为算法设计的新领域提出了新的数学挑战，我们提供了一个更广泛的梯度优化算法框架的简要介绍。
- ICCV一种基于梯度优化的骨架化算法
基于矩阵运算的三维骨架化算法可与梯度优化相结合，有效保留物体的拓扑结构，并在医学图像处理方面具有广泛应用。
- 零梯度从不给予：学习非可导图形的局部代理损失
使用神经逼近的替代函数来解决具有未定义或零梯度问题的图形优化，适用于渲染、程序建模和物理驱动动画中的非凸、非可微黑盒问题。
- 关于帧间距的可微短时傅里叶变换
本文提出了可微分的短时傅里叶变换（STFT），使得跳跃长度或帧时位置可以通过参数连续优化。我们的方法提供了更好的帧时定位控制，因为跳跃长度的连续性允许更精细的优化。此外，我们的贡献使得可以使用诸如梯度下降等计算效率更高的优化方法。我们的可微 - 可解释分割的可微高斯原型层
该论文提出了一种基于高斯原型层的梯度原型学习方法，并演示了两种基于区域建议和高斯混合模型的可解释分割网络，并在农业数据集上进行了评估。
- 强凸性下 Nesterov-1983 的线性收敛
使用高分辨率微分方程框架，研究了基于梯度的优化算法的收敛性问题，证明了 Nesterov 加速梯度下降方法和 FISTA 算法在强凸函数上都能以线性收敛，并且找到了近端次梯度范数的线性收敛。
- 可微分的多目标因果贝叶斯实验设计
我们提出了一种基于梯度的方法来解决贝叶斯最优实验设计问题，以在批处理设置中学习因果模型。我们完全摆脱了黑盒优化技术和贪婪启发式方法，并提出了一个概念上简单的端到端梯度优化过程，以获得一组最优干预目标状态组。这种方法 outperforms - DiSProD: 可微分的分布符号传播规划方法
该论文介绍了 DiSProD，它是一种为具有连续状态和动作空间中的概率转移的环境开发的在线规划器，该规划器建立符号图，捕获未来轨迹的分布，该分布已给定策略，并使用独立性假设和分布的近似传播。该方法在处理随机环境、搜索深度敏感性、奖励稀疏性和 - AAAIWLD-Reg：一种依赖于数据的层内差异性正则化器
本文提出一种基于神经网络的层内反馈机制，通过计算神经元输出之间的相似性来增强每一层内的激活多样性，实验证明这种方法能够提高多种任务下多个最新神经网络模型的性能。
- 解码器调优：以解码为基础的有效语言理解
本研究提出 Decoder Tuning 方法，通过优化解码器网络来适应具有冻结参数的预训练模型，并只需要一个 API 查询，可以实现一千倍的加速。
- 神经网络的解释易受到通用对抗扰动的影响
本文提出了一种通用扰动方法（UPI）来干扰神经网络梯度解释，并通过数值结果支持了该方法的成功应用。
- 回归即分类：任务形式对神经网络特征的影响
研究神经网络对回归问题的解决方法，针对两层 ReLU 网络探索了梯度优化引起偏差的一些现象，提出了一种新的支持度计算方法，得出实验证据，阐述了广义梯度下降和平方损失函数在训练中的优化困难。
- Grasp'D: 针对多指手指的可微接触式抓取合成
本文介绍了一种名为 Grasp'D 的方法，它使用可微分接触模拟技术从多指模型的已知模型和视觉输入中实现了掌握合成，其可以在高自由度机械手中稳定、高效、物理现实地实现高接触掌握合成，与解析掌握合成相比，Grasp’D 的结果可以实现 4 倍 - ICML存在接触的可微物理仿真：它们是否具有正确的位置、速度和控制梯度？
本文讨论了不同可微物理模拟和四种不同形式的接触模型 (包括 LCP、凸优化模型、柔性模型和基于位置的动力学模型) 的梯度计算精度以及其在最优化控制策略方面的应用
- 语音识别黑盒对抗攻击的神经预测器
本论文介绍一种基于神经预测的方法 ——NP-Attack，通过逐步演进搜索空间寻找小的对抗性扰动，实现通过较少的查询数目攻击音频样本的目标。实验结果表明，NP-Attack 与其他最先进的黑盒对抗攻击相比，具有竞争力的结果。
- ICLR单调可微排序网络
本研究提出了一种基于 sigmoid 函数的可微分排序网络的单调松弛方法，该方法可以保证梯度始终具有正确的符号，提高了基于梯度的优化效果。
- ICML可微分的节肢动物体模拟
本文提供了一种高效的可微分仿真方法，实现了关节体动力学与深度学习框架的集成，以及运用于操作关节体的神经网络的基于梯度的优化。通过空间代数和伴随方法，我们导出了前向动力学的梯度，并发现此方法比自动微分工具快一个数量级，且在仿真过程中只需保存初 - ICCV元导航器：寻求适用于少样本学习的优秀适应策略
本文提出 Meta Navigator 框架，用于自动选择不同的 few-shot learning 设计，以解决不同任务条件下选择学习策略的困难；该方法基于元学习，使用可微分的搜索和解码算法寻找应用于网络不同阶段的良好的参数适应策略；实验 - ICCV自然分布偏移下的在线持续学习：基于视觉数据的实证研究
该研究论文提出一种新的基于连续数据流的在线不断学习方法，并建立了一个大规模的在线视觉学习基准测试，研究了梯度下降优化在不断学习中的关键未被观察到的现象，并提出有效的策略来改进深度学习模型的性能。
- ICCV距离感知量化
该论文介绍了一种统一的框架来解决网络量化问题，通过引入一种新型的距离感知量化器 (DAQ), 该方法既解决了梯度匹配问题，也解决了量化差异问题，有效提高了各种位宽下的网络性能。