洗牌回归的相变现象
本文研究了一个大型项目中标记的识别问题,包括无噪声和有噪声的情况及基于统计学的准确性要求。作者们给出了阈值,并证明了成功率和失败率之间的过渡现象。此外,本文提出了一种对于一般随机噪声模型的多样化信息理论框架,以表征所需的测试数量,研究结果表明即使在低噪声水平下噪声都能使问题变得更加困难,最后通过一个近似恢复问题证明了与标签解码中允许一定数量的误差存在类似的行为。
Oct, 2017
本文研究在一个稀疏极限下,当底层隐藏向量(构建排名为一的矩阵)非零组成部分数与向量总维数的比例为亚线性,信噪比以适当的速度趋于无穷大时,估计被加性高斯噪声矩阵污染的排名为一的矩阵的统计和计算限制,并证明了渐近互信息的显式低维变分公式,分析了稀疏状态下的近似消息传递算法。对于伯努利和伯努利 - 拉德马赫分布向量,当稀疏度和信号强度满足适当的比例关系时,我们发现渐近最小和算法均方误差的全有或全无相变。在渐近情况下,统计与算法之间的差距发散,表明近似消息传递对于稀疏恢复是非常困难的。
Jun, 2020
该论文考虑了具有洗牌标签的线性回归任务,提出了一种一步估计器来重构(Π,B),并给出了在不同情境下正确排列恢复的充分条件,最后通过数值实验验证了上述结论。
Oct, 2023
本文通过对稀疏图上的推理问题的描述和分析,研究了随机块模型的相变以及在信息论上最优化问题变得容易但是在计算上仍具挑战性的的混合硬相位,并阐明了消息传递算法的贝叶斯最优性及其在这些问题中的作用,并通过数值模拟验证了该方法的有效性。
Jun, 2018
通过对随机凸优化问题进行第一次严格分析,本文提出了描述随机凸优化问题中相变现象的工具,以及可靠地预测转变区域位置和宽度的技术,这些技术适用于具有随机测量的正则化线性逆问题、随机不连贯模型下的分离问题以及随机仿射约束锥形程序等;该文还引入了统计维度这一概要参数来说明这一应用结果依赖于锥形几何的基础研究,并且通过展示锥形几何中一系列内固体积集中分布在其上,得到了对于随机旋转锥体和一个固定锥体共享射线的概率的准确上界。
Mar, 2013
本研究采用非线性函数将噪声矩阵与受到秩为一的信号干扰的随机矩阵模型进行研究,建立了信号加噪声的分解方法,并在信号强度的临界阈值点上确定了信号组成结构的精确相变。为验证这种分解方法的适用性,我们使用它来研究非线性模型中的有符号信号恢复问题和经过变换的随机块模型中的社区检测问题中的新现象。最后,我们通过一系列数值模拟验证了我们的结果。
May, 2024
本文研究了一种用于非凸场景下估计信号的光谱初始化方法,考虑了任意广义线性传感模型,并精确地描述了该方法在高维极限下的性能,揭示了依赖于样本数和信号维度之比的相位转换现象。
Feb, 2017
本文讨论基于随机傅里叶核(RFF)的回归模型的精确渐进特征,研究表明在数据样本数、数据维度和特征空间维度等三个因素中为大且可比较的实际场景下,随机 RFF Gram 矩阵不再收敛于著名的极限高斯核矩阵而是有一个可处理的行为,双重下降测试误差曲线从这种相变行为中得出,该结果不依赖于数据分布的强假设。
Jun, 2020