- 通过维度对数 Sobolev 不等式在概率测度中精确检测低维结构
提出了一种通过最小化维度对数 Sobolev 不等式和 KL 散度,以识别目标与参考测度之间的近似关系的方法,该方法适用于高维概率测度的低维结构识别和有效抽样。
- 具有隐藏对称性的对称线性赌博算法
在高维线性赌博机中,通过模型选择来学习隐藏的对称性结构,我们的算法能够达到低预测误差并降低后悔程度。
- 深度线性无约束特征模型在深度学习中统一低维观测
现代深度神经网络在各种任务中取得了高性能,研究人员最近注意到这些网络的权重、Hessian 矩阵、梯度和特征向量中存在低维结构,这种低维结构在不同的数据集和架构上进行训练时都能观察到。在本文中,我们在理论上证明了这些观察结果的发生,并展示了 - 有限配对偏好比较的度量学习
度量学习、偏好比较、理想点模型、马氏距离、低维结构
- 无需分布假设的差分隐私子空间估计
在这项工作中,我们在两种不同类型的输入数据的奇异值间隙下,对私有子空间估计的问题进行了数学建模,并证明了两种情况下的新的上下界。特别是,我们的结果确定了在估计子空间时所需的点数与维度无关的间隙类型。
- 通过 Gromov-Monge 嵌入的单调生成建模
通过使用 Gromov-Monge 嵌入(GME)的深度生成模型,我们提出一种解决生成对抗网络(GANs)面临的起始条件敏感性和模式崩溃等挑战的方法。我们在低维的潜在空间中通过 GME 识别数据的底层测度的低维结构,并在保持其几何性的同时将 - 隐私学习子空间
该研究探讨了差分隐私算法如何应用于低维线性子空间,以发现数据的低维结构并尽可能避免在隐私或准确性方面的代价。
- 尖峰运输模型中的 Wasserstein 距离估计
本文提出了一种新的统计模型 —— 尖峰运输模型,该模型规范化了两个概率分布仅在低维子空间上不同的假设。我们研究了在这个模型下 Wasserstein 距离的最小二乘率,并表明这种低维结构可以避免维度灾难。通过最小二乘分析,我们得出了一个下界 - 利用 Cohomology 特征提取进行神经数据解码
该研究提出了一种新的数据驱动方法来发现和解码来自大规模神经记录的神经编码中的特征,利用同调特征提取。研究者将该方法应用于捕获自由活动老鼠的神经记录,发现了一个环形特征,并成功解码老鼠头部方向。研究者发现,解码的值传达了更多有关神经活动的信息 - 使用谱方法进行丰富观测 MDP 的强化学习
本文研究富观测马尔科夫决策过程(ROMDP),提出了一种谱分解方法用于在有限时间内成功地学习到每个观测状态的隐状态,由此引入了基于寻优算法的强化学习算法 UCRL,且在维度依赖性方面具有较弱的相关性的有限时间遗憾边界。
- 流式大数据矩阵和张量的子空间学习和插补
论文提出了一种基于 rank minimization 算法的在线优化方法,通过追踪低维度子空间、揭示潜在结构以及使用核范数正则化来实现低维矩阵数据和低秩张量数据的缺失值插补,模拟测试显示该方法在数据明显含噪、不完整的情况下表现突出。
- 高斯过程的线性嵌入主动学习
提出一种主动学习方法,用于发现高维高斯过程任务中的低维结构,同时引入一种新技术,用于近似边缘化高斯过程超参数,从而提供在高维空间中执行高效的高斯过程回归、积分或贝叶斯优化的方法。
- PETRELS:基于递归最小二乘法从部分观测中并行估计和跟踪子空间
本文提出了一种新的算法 PETRELS,可用于在线追踪数据的低维线性子空间及矩阵数据中缺失条目的估计,适用于图像处理、网络监测与异常检测等多个领域,数值实验证明其效果优于传统批量算法。