在大量异常值存在的情况下，我们提出了一种用于 3D 点集配准的健壮方法，其中第一个贡献是使用截断最小二乘（TLS）成本重新制定了配准问题，使得估计对大量虚假对应不敏感；第二个贡献是解耦旋转、平移和缩放估计的通用框架，允许按级联顺序解决三个转换。

Mar, 2019

研究点集注册问题中的异常值如何影响两个点云之间的最优旋转问题，比较了基于非凸优化和凸松弛的方法，实验发现，特殊正交群上直接最小化最小不平方偏差能够更好地处理异常值和恢复旋转。

Apr, 2020

本文提出求解大变形微分同胚图像配准问题的数值算法，将非刚性图像配准问题形式化为最优控制问题，使用 PDE 约束优化问题，通过在速度场上使用 Tikhonov 正则化技术增加正则化约束，使用 Fourier 和 Chebyshev 伪谱方法进行空间和时间离散化，并通过参数连续方法估计最优正则化参数，提出的牛顿 - Krylov 法与全局化预处理梯度下降相比表现出更好的数值精度和计算效率。

Aug, 2014

本文针对复合优化问题中一般且高效的不精确近端拟牛顿算法，在强凸目标函数下分析了其精确和不精确执行的收敛性质，并建立了一个简单的停止标准来改善其实用性。同时，对基于 FISTA 的近端拟牛顿算法进行加速，并与传统算法进行比较和分析，结果表明加速并没有带来任何好处。

Jul, 2016

本研究将众所周知的 BFGS 拟牛顿方法及其内存限制变种 LBFGS 扩展到非平滑凸目标的优化，提出了 subBFGS 算法，其全局收敛，并使用其记忆限制变体（subLBFGS）来最小化 L2 正则化风险并开发了新的多类和多标签设置下的准确搜索算法。

Apr, 2008

本文提出了一种计算特定尺度规范下近似算子的凸分析方法，并利用对偶问题的分段线性特性描述了一类函数的高效实现，之后将该方法应用于凸最小化问题加速中并得到了优雅的拟牛顿方法，该算法在信号处理、稀疏恢复和机器学习分类等领域中具有广泛应用，并与现有方案相比具有较高的性能。

Jun, 2012

提出了一种使用二阶信息进行通信和计算效率高的分布式优化算法来解决具有非平滑正则化项的 ERM 问题。该算法使用逐步二次逼近法，并描述了如何在分布式方式下有效地维护 Hessian 的逼近并解决子问题。该方法适用于广泛的非强凸问题，具有全局线性收敛性，需要更低的通信复杂度。同时，该方法可以收敛于非凸问题，因此具有在深度学习等应用中使用的潜力。初步的计算结果表明，该方法在凸问题上显著提高了通信成本和运行时间，超越了现有技术的方法。

Mar, 2018

本研究针对机器学习中使用的 Square-root-Lasso（SQRT-Lasso）回归问题，发现通过研究建模结构，这种方法可以同时获得效率和准确性，同时提出使用 proximal 算法（如 proximal gradient descent，proximal Newton 和 proximal quasi-Newton）进一步地提高效率。

May, 2016

在本研究中，我们提出了一种精心构造的近端拟牛顿算法，用于解决计算密集的 M - 估计问题，特别是针对条件随机场的 L1 正则化 MLE 问题，该问题由于涉及到要求代价昂贵的推理步骤来计算梯度值，因此具有特别昂贵的优化成本。我们的算法在序列标记和分类等问题上比当前最先进的算法收敛速度更快。

Jun, 2014

提出了一种稀疏优化的通用框架，使用了二阶信息和有限的 BFGS Hessian 逼近，通过坐标下降的方法解决问题，并对其全局收敛率进行了新颖的分析。

Nov, 2013