- 在高维空间中桥接分布学习与图像聚类
通过利用自动编码器将图像编码为高维潜空间,并使用 Monte-Carlo 边缘化和 Kullback-Leibler 散度损失来拟合 Gaussian Mixture Models (GMM) 的高斯成分和学习数据分布,从而实现图像聚类,并 - 激活函数的不激活:神经网络解释的合理理论
本文提出了关于神经网络被认为具有高维空间模型但其空间的定义不够清晰的一个合理解释,即通过激活函数的作用将低维线性空间映射为无限维的高维空间,称为超空间。这种空间中的每个神经元节点通过激活层实际上是一个无限次幂的多项式,而训练神经网络可以至少 - 可扩展的深度学习方法求解高维动态最优输运问题
本文提出了一种基于深度学习方法,通过蒙特卡洛方法计算动态高维空间下的最优输运问题的解法。与其他方法相比,我们的方法在更高维度下能够给出更准确的结果,并具有良好的可扩展性。
- 高维差分隐私随机优化及重尾数据
本文中,我们首次对 DP-SCO 问题的高维重尾数据进行了研究,提出了在约束为多面体的情况下的误差频率及其限制,进一步在 LASSO 和稀疏学习问题中讨论了误差限制。
- 神经网络分类器的末尾和倒数第二层出现单纯对称的研究
神经网络分类器的倒数第二层在高维空间中呈现出较大的对称性,通过仅仅简述深度网络的玩具模型,证明了即使是分类器的最终输出在某些条件下也不会对来自于同一类中的数据样本一致,这里的条件包括分类器是浅层网络或深层网络无法将样本带入适当的几何配置。
- ICML消息传递式 Stein 变分梯度下降
通过我们提出的基于条件独立结构的概率图模型的消息传递 SVMG 方法 (简称 MP-SVGD) 使其在高维空间中具有更强的排斥力,从而提高了粒子效率和逼近灵活性,解决了 SVGD 中粒子落入概率密度函数模态和丧失排斥力的问题。
- 分布式多任务学习
本研究关注分布式多任务学习问题,提出了一种基于 debaised lasso 的通信高效估计方法,能够在高维空间中学习线性预测器,并与最佳集中式方法相媲美。
- ICLR高维度景观探索
本文旨在证明高维度空间中定义的某些非凸函数有一个只包含其临界点大部分的数值狭窄区间的存在,并通过对 MNIST 数据集中的师生网络的实验观察得出了类似的结论,并发现梯度下降和随机梯度下降方法可以在相同步数内达到此水平。
- 高维空间高斯场的临界点统计
本论文研究了高维空间中高斯场的关键点数量与其能量和指数的相关性,揭示关键点的组织结构,对玻璃和无序系统以及基于人类探索弦理论中的景观场景具有重要影响。
- 基于熵的高维最近邻搜索
本文研究在高维空间中,特别是欧几里德空间中找到查询点的近似最近邻的问题,提出了一种用于解决问题的新方法,并分析了其效果,同时改进了局部保持哈希函数以提高最近邻检索效率。