- 可微树集合中的线性模式连接性
线性模连接（LMC）是指在参数空间中进行线性插值模型时性能保持一致的现象。本文首先实现了软树集成的 LMC，展示了树架构中子树翻转不变性和分割顺序不变性的必要性，并证明了通过设计基于决策列表的树结构可以在保持 LMC 的同时排除这些附加不变 - 如何逆转杠杆得分分布？
通过分析统计杠杆的反演问题，我们研究了杠杆得分的分布与模型参数的关系，提出了解决回归问题的非凸优化算法，包括梯度下降和牛顿法，从而为统计杠杆的研究在解释、数据恢复和安全等领域开辟了新的应用。
- 基于动态 D2D 辅助的 O-RAN 联合学习：性能分析、MAC 调度器和非对称用户选择
该论文着重研究联邦学习中的动态系统动力学，包括动态无线信道容量和用户数据集的变化，通过引入协同联邦学习与专用 MAC 调度器，优化了用户选择和频谱分配，进而解决了一系列网络感知的联邦学习优化问题。
- 广义平滑非凸优化中的 RMSProp 和 Adam 的收敛保证与仿射噪声方差
该论文在最宽松的坐标普适光滑性和仿射噪声方差假设下，为 RMSProp 和 Adam 在非凸优化中提供了首个收敛性分析，首先分析了 RMSProp，然后将分析推广到 Adam，表明它们的迭代复杂度与复杂性下界一致。
- 流管界优化：高效的流管界优化与无循环方差缩减
在本研究中，我们研究了在黎曼流形上的随机优化，重点关注欧氏空间和黎曼空间中使用的关键方差减小机制。通过引入 Riemannian Loopless SVRG（R-LSVRG）和 PAGE（R-PAGE）方法，我们取代了外循环，采用每次迭代中 - 基于正交约束和多边形面积的特征选择
本研究提出了一种新颖的正交回归模型，结合多边形的面积，以直观地捕捉特征与标签之间的区分性依赖，并采用混合非单调线性搜索方法来高效处理正交约束带来的非凸优化挑战，实验结果表明，这种方法不仅可以有效捕捉区分性依赖信息，而且在降低特征维度和提高分 - 基于梯度的 $l_0$ 范数对抗性样本的优化
在这项研究中，我们提出了一个新的 l0 范数攻击方法，称为 sigma-zero，该方法利用了 l0 范数的一种特殊的可微近似来优化梯度，以及一个自适应的投影算子来动态调整损失最小化和扰动稀疏性之间的权衡。通过对 MNIST、CIFAR10 - 将一般和闭凸集连接起来：子模最大化中的桥梁
在非凸优化的领域中，DR-submodular 函数的优化在最近越来越重要，一些最近的工作探讨了在一般（不一定是下闭的）凸集约束下非单调 DR-submodular 函数的最大化，但之前的方法使用最小的 L∞范数作为参数，而 Mualem - 以深度学习方法将抓握力优化问题转化为二次双线性矩阵不等式问题
通过深度学习方法解决非凸优化问题中的双线性矩阵不等式问题，使算法能够高效地在未经训练的 / 未见过的物体上生成具有最佳握持质量的力闭合握持。
- 非凸问题的近似 Hessian 矩阵、梯度和函数随机优化
通过使用随机 TR 和 ARC 方法，我们可以在同时提供 Hessian 矩阵、梯度和函数值的不精确计算的基础上，减少每次迭代的传播开销，从而获得与之前研究中的准确计算同级别的迭代复杂度以实现近似二阶最优性，并通过有限和最小化问题中的随机采 - 非凸优化中找到稳定点的计算复杂度
非凸优化中寻找近似驻点的计算和查询复杂性是本文的关键研究内容，其中包括在无约束域中寻找近似驻点的问题的 PLS 完备性、二维情况下的零阶算法以及近似驻点的查询复杂性的特征化，同时还研究了约束优化问题中寻找近似 KKT 点的查询复杂性，并指出 - 基于梯度的随机点积图的谱嵌入
用最新的非凸优化方法解决了 Random Dot Product Graph 的嵌入问题，并展示了其在网络表示学习中的有效性。
- 亚线性复杂度下非凸非光滑约束组合问题的一阶优化方法：下界复杂度与近似最优方法
本文针对一个类别的复合非凸非光滑优化问题，通过使用两个不同的一阶预言机，在最优性公差 ϵ>0 的情况下建立 FOMs 的下界复杂性界，并提出一个非精确近端梯度法来解决该问题。所提出的 IPG 方法的预言机复杂度与我们建立的下界匹配。
- 基于生成神经网络的超高维非凸全局优化
我们提出了一种非凸优化算法元启发式方法，基于深度生成网络的训练，能在连续、超高维度的空间中实现有效搜索。通过网络训练，利用采样的局部梯度种群在定制的损失函数内，将网络输出分布函数演化朝向高性能最优点的一个峰值。深度网络架构根据训练过程进行渐 - 基于梯度的双变量 DAG 学习中的全局最优性
该论文证明了一种简单的路径追踪优化方案可全局收敛于双变量情况下人口损失的全局最小值，解决了学习无环有向图模型中非凸优化问题的全局优化难题。
- 具有理论保证的机器学习非凸优化：鲁棒矩阵补全和神经网络学习
本文讲述了解释性学习系统是机器学习的一个新趋势，但由于现实数据是由非线性模型生成的，在研究非凸优化问题时，提供可解释性算法是具有挑战性的，本文研究了两个非凸问题：低秩矩阵补全和神经网络学习。
- 通过普通梯度下降超越 NTK: 关于多项式宽度、样本和时间的神经网络的平均场分析
本文研究了非凸优化的双层神经网络，并探讨了梯度下降和核方法之间的样本复杂性差异问题。结果显示，使用不作任何修改的梯度下降算法可以在多项式次迭代后收敛到一非微不足道的错误，而核方法则不具备类似的性质。
- GloptiNets：带证书的可扩展非凸优化
通过利用目标函数傅里叶频谱在衰减方面的本质，我们提出了一种新颖的具有证书的非凸优化方法，该方法处理超立方体或环面上的平滑函数。
- 非凸优化中的自适应策略
本论文主要介绍了一些关于自适应算法的研究工作，包括在随机优化、深度神经网络和非凸优化等方面的应用，提出了新算法并进行了理论和实验分析。其中，SignSGD 算法具有很好的理论性质和性能，并能够自适应地适应平滑性条件。
- 对称张量分解问题的对称性和临界点
本研究考虑了将一个实对称张量分解为一些一阶秩张量之和的非凸优化问题，并利用该张量的对称结构导出 Puiseux 序列表示的关键点族。最终得出了关键值和 Hessian 谱的精确分析估计，并发现一组纷繁复杂的鞍点和局部最小值的解析特性与对称结