通过对一种简化的 2 层线性网络模型的分析，我们揭示了梯度下降动力学中锐度现象背后的机制，包括锐度降低、渐进锐化和稳定边缘等，该模型的预测在实际场景中也具有普遍适用性。

Nov, 2023

本文探讨了超参数初始化趋近于零时，激活集与损失函数极小值之间的关系，证明了激活集的约束下，梯度流跳跃到另一个鞍点的动态可作为增量学习的过程，并采用类似于 Lasso 路径计算的 Homotopy 算法解决了实现上的难点。

Apr, 2023

使用高分辨率微分方程框架，研究了基于梯度的优化算法的收敛性问题，证明了 Nesterov 加速梯度下降方法和 FISTA 算法在强凸函数上都能以线性收敛，并且找到了近端次梯度范数的线性收敛。

Jun, 2023

使用自适应数据收集的估计和推断在统计学中面临重大挑战。通过研究单个坐标估计的错误表明了适应性数据和 i.i.d. 数据之间估计性能的显著差异。研究表明 OLS 方法可实现匹配的估计错误，我们还提出了一种新的单坐标推断估计器，通过解两阶段自适应线性估计方程来实现。

Oct, 2023

本文提出了一类新的分布式统计估计算法，利用分治策略实现，表明分治策略的一个关键利益是健壮性，并建立了这些分布式算法的性能与正态逼近的收敛率之间的联系，并证明了非渐近偏差保证和极限定理，针对中位数估计和最大似然估计进行了例证和性能保证

Apr, 2017

扩散模型对于从高维数据分布中生成近似样本是一个强大的方法。我们提供了第一个以数据维度为线性（在对数因子之内）的收敛界限，只需假设数据分布具有有限的二阶矩。我们证明扩散模型仅需要最多 Δ 步骤，就能以 Kullback-Leibler 差异度在 d 维实数空间上对于方差为 δ 的高斯噪声破坏的任意数据分布进行 ε² 内的近似。

Aug, 2023

研究使用局部差分隐私约束下的敏感数据集来估计一组关于一些未知分布的 $d$ 个线性查询的问题，提出了离线和自适应问题的新算法。

Oct, 2018

研究了高维线性回归问题中，使用迭代算法得到的迭代次数从 1 到 T 的变量，并提出了估计器来估计迭代过程中的泛化误差，并应用于提前停止等问题。通过仿真实验证明了理论结果。

Apr, 2024

通过给原有的超限吸引子的普通微分方程加入微小随机摄动，研究发现，解方程的收敛过程在一个时间窗口内突然发生，这一现象是 Markov 链逐渐复杂化中所称的截尾现象；另外，该论文还能够给出一般性的条件来确定平衡距离是否会在这个时间窗口内收敛到一个通用函数，这一现象被称为截尾剖面。

Oct, 2015

该论文提出了一个几何统计分析框架，适用于泛化的不适定线性反问题模型，包括噪声压缩感知、符号向量恢复、迹回归、正交矩阵估计和噪声矩阵完成等特殊情况，提出了可行的计算凸规划方法，用于统计推断，包括估计、置信区间和假设检验。该论文建立了一个理论框架，以表征局部估计收敛速度，并提供统计推断保证，其结果基于局部锥几何和对偶性，并通过高斯宽度和 Sudakov 最小化估计量表征局部切锥的几何。

Apr, 2014