给出了估计离散概率分布的新界限，这些界限在各种准确意义上几乎是最优的，包括一种实例最优性。我们提出的基于数据的最大似然估计的收敛性保证显著改进了目前已知的结果。我们利用和创新了多种技术，包括切诺夫型不等式和经验伯恩斯坦界。在合成和真实世界实验中验证了我们的结果。最后，我们将所提出的框架应用于一个基本的选择推理问题，即估计样本中最频繁的概率。

Feb, 2024

本文提出了一种统一的框架，用于基于交互式协议的分布式参数估计，可以导出各种紧密下限，适用于不同的参数分布族；特别是在高斯家族的原型情况下，我们的方法可以规避以往技术的局限性，并补充了匹配的上限。

Oct, 2020

无需二阶导数信息的最小化问题，通过估计 Hessian 矩阵的方法可以非常有效。然而，传统技术产生的密集矩阵对于大型问题来说是不可行的。有限内存紧凑表示以低秩表示方式表达密集数组，并成为大型确定性问题软件实现的最新技术。我们开发了一种新的紧凑表示方法，通过选择向量进行参数化，并对特定选择的现有公式进行减少。我们展示了紧凑表示在大量特征值计算、张量分解和非线性回归中的有效性。

Mar, 2024

研究了压缩感知中稀疏解的求解问题，提出一种基于 L1 - 范数和半定规划的解法，对于块稀疏向量能找到最稀疏的解，该方法具有多项式时间复杂度。

Mar, 2008

本文提出了一种基于正交组上的∣𝐿4∣范数最大化方法，通过匹配、拉伸和投影，实现了完整字典的学习，并得到了理论上的优化保证及高效的实验验证，该方法在图像处理中具有应用前景。

Jun, 2019

本文探讨了如何利用 L_p-norm 等方法在限制非零元素个数的条件下，通过线性转换的约束来重构出一个 N 维向量 x.

Jul, 2009

该论文探讨了字典学习问题的局部解决方案，基于随机稀疏模型，通过低秩矩阵补全问题的工具，克服了一些技术上的难点，并建立了当样本数满足某些条件时，字典和系数的组合可以成为 L1 范数的局部最优解这一结果。

Jan, 2011

本研究探讨使用 max-norm 作为秩的凸松弛下，基于一般非均匀采样分布的噪声 1-bit 矩阵补全问题，并引入了 max-norm 约束的极大似然估计，并使用信息论方法建立了最优速率的极小极大下限，并讨论了计算算法和数值性能。

Sep, 2013

本文提出了一种用于研究非渐近极小值估计高维矩阵的新机制，该机制可以在各种问题的大量损失函数中产生紧密的极小值。基于有限维 Banach 空间的凸几何，我们首先开发了体积比方法，用于确定所有平方酉不变范数下无约束正常均值矩阵的极小值估计率。此外，我们还建立了具有子矩阵稀疏度的均值矩阵估计的极小值率，其中稀疏性约束引入了一个附加术语，该术语对范数的依赖性与无约束问题的速率完全不同。此外，该方法也适用于低秩约束下的矩阵完成问题。新方法还扩展到正常均值模型之外。特别地，它对于所有酉不变范数的协方差矩阵估计和泊松速率矩阵估计问题都产生了紧密的速率。

Jun, 2013

本文提出一种基于信息论的学习鲁棒性深度表示的新颖目标函数，通过将数据投影到特征矢量空间，最大化相对于监督信号的所有特征子集的互信息，得到鲁棒表示，其对噪声或不可用特征的信息保留能力较强，我们利用一种替代目标函数最小化的方式实现此目标函数并进行实验验证。

May, 2019