- 无参数算法在决策相关分布下优化行为遗憾的研究
本文研究了行为风险最小化，这是一种在决策依赖分布下的随机优化方法。我们考虑了一般情况下的非凸型行为风险，在此基础上，我们提出了高效的无参数乐观优化方法。我们的算法在许多方面显著优于现有的利普希茨贝叶斯方法。特别是，我们的框架不需要关于分布映 - 高效且保证安全的非凸轨迹优化与约束扩散模型
本文提出了一个结合扩散模型和数值求解器的通用且可完全并行化的框架，用于非凸轨迹优化，以确保计算效率和约束满足性。通过引入一种新的受约束扩散模型，并在训练过程中引入附加的约束违反损失来近似局部最优解的分布并减小约束违反情况，得到的样本用作数值 - 保护隐私的联邦原始 - 对偶学习用于模型稀疏化的非凸和非平滑问题
提出了一种用于非凸和非平滑联邦学习问题的新型原始 - 对偶算法，结合双向模型稀疏化和差分隐私，以保证强隐私，通过真实数据上的大量实验验证了该算法的有效性和比某些最先进的联邦学习算法更出色的性能，并验证了所有分析结果和特性。
- 非凸惩罚稀疏量化回归的平滑 ADMM 算法
研究了非凸非光滑稀疏惩罚条件下的分位数回归，介绍了交替方向乘法器方法中的新型单循环平滑 ADMM 算法，称为 SIAD 算法，可加快收敛速度并提供稀疏惩罚分位数回归的更快、更稳定的解。
- 非凸非凹极小极大优化的高阶方法
使用高阶方法结合离散 / 连续时间分析，研究了结构化的非凸非凹 min-max 问题中算子范数最小化问题的近似最优解，与一阶方法相比，实验结果表明其具有显著优势。
- 具有样本大小无关性的随机约束 DRO
本文提出并分析了一种基于随机算法的方法，用于解决 Kullback Leibler divergence 约束的 Distributionally Robust Optimization 问题，该方法适用于非凸和凸损失函数，并具有更高的竞争 - ICLR一类带 AdaGrad 步长的非凸算法的高概率界
本文提出了一种新的简化的高概率分析 AdaGrad 的方法，并证明了它在光滑非凸问题中的收敛性，并且没有光滑度和方差知识。同时，我们在附加噪声假设下进一步证明了 AdaGrad 的噪声适应性。
- 基于梯度的非凸跟随者双层优化及其拓展
本文提出了一种名为 IAPTT-GM 的算法框架，旨在解决具有非凸跟随结构的 Bi-Level Optimization 模型在解决高复杂度实际问题时的有效解决方案和可靠的近似版本建构问题，并通过理论研究证明了该算法的收敛性和运用 LLC - 动量算法改进归一化随机梯度下降
本研究提出使用 momentum 相对于 normalized SGD 来解决 non-convex issues，若 objectives 带有有限的第二导数，采用带的动量公式提高了收敛速度，且适用于大规模任务如 ResNet-50 和 - 使用预测和非凸损失的在线优化
本文提出了两个有效的充分条件来解决在线非凸优化和运动成本问题，并得出了算法 SFHC 的竞争比率，并且还为运动和击打成本提供了竞争比率结果。
- 梅日定理回归、梯度下降升及其在非凸零和博弈中的周期和人为均衡
本文研究了一类非凸非凹的极小极大博弈，应用于生成对抗网络中。作者从优化理论、博弈理论和动态系统的角度展开分析，证明了针对特定的问题实例，梯度下降升力动力学可能表现出多种不收敛至极小极大解的行为，包括周期性和波恩卡雷复发。
- 深度学习中方差缩减优化算法的无效性
本文探讨了随机方差缩小技术在优化中的应用，研究发现在训练现代深度神经网络中，由于遇到难解的非凸优化问题，直接应用 SVRG 技术等方法效果不佳。
- 一类非凸非光滑优化问题的收敛保证
对于非凸、非光滑函数的关键点寻找问题，本文研究了三种基于梯度的方法 (梯度下降、近端更新、弗兰克 - 沃尔夫更新) 的行为，并证明了这些算法的收敛速率，同时也为连续亚解析函数证明了更快的收敛速率，优化后的算法具有更低的迭代成本，并通过应用于 - 缓和网络
本文提出一种新的深度神经网络优化方法，通过使用逐渐变得更加非凸的平滑目标函数及控制复杂度的超参数，能在各种困难的优化任务中提高收敛表现并与神经网络连续化方法建立了联系。
- 从虚拟实例推断形状和空间变化反射率
解决采用光度立体法获取不同光照下物体表面法向和反射率的问题，应用已知 BRDF 字典的非负线性组合的假设，设计了一个基于实例的光度立体法的多尺度搜索策略以及梯度下降方法来求解每个像素点的表面法向和反射率，并且使用其他的约束优化方法以得到更好 - NIPS非凸健壮主成分分析
该论文提出了一种新的鲁棒 PCA 方法，通过在低秩矩阵集和稀疏矩阵集上交替投影适当残差来精确恢复低秩矩阵，具有较快的速度和精确度。
- 非负主成分分析：消息传递算法和尖锐渐近
本文研究了主成分分析中，如果利用附加到主向量的信息，能否使得任务更容易并提高准确性。在正协方差约束条件下，该文在一峰模型下开发了相似的特征，证明了估计误差也存在相似的相变现象，并且展示在几乎线性时间内如何近似计算非负主成分。
- MM具有异常值的多子空间中最显著子空间的恢复
该研究讨论了从一个混合数据集中恢复最重要子空间的问题，我们通过 lp - 平均距离的非凸优化来完成此任务，并证明在添加小噪声的情况下，该任务可以在 0<p<=1 的任何情况下实现，但难以在 p>1 和存在多个子空间时实现。