- 通过 Riemannian 扩散过程的混合在流形上进行生成建模
基于 Riemann 流形的扩散混合模型,通过以端点条件的扩散过程的混合来构建一种流形上的生成过程,取代以往扩散模型的去噪方法,更好地在高维度上表现,并在各种流形上优于现有的生成模型。
- ICML高维生成模型保真度与多样性的测量中,精度和召回率的不对称性
本文发现了在高维情况下,利用 k 近邻的默认方法评价生成模型的准确率和召回率存在的严重缺陷,并提出对称度更高的新指标来解决该问题。
- MBGDT: 鲁棒性 Mini-Batch 梯度下降
本文研究高维度机器学习,提出一种基于 mini-batch 梯度下降的新方法(MBGDT),并在设计的数据集中展现出表现优异和更强的鲁棒性。
- MM随机宇宙中的生命:重新考虑 Sciama 的论证
随机取样在高纬度上的应用是非常广泛的,本研究进一步探讨了英国物理学家 Dennis Sciama 提出的精妙论述,通过合理的假设,展示了随机宇宙可以伪装成 "智能设计",从而看起来基本常数是被精心调整的,以实现生命最有可能发生的最高概率;对 - ICML支持向量回归的精准性能分析
本文研究支持向量回归问题,特别关注样本的高维情况下,硬性支持向量回归的可实现性以及软性支持向量回归的测试风险与参数之间的关系,并应用结果优化算法参数选择策略,结果表明在参数优化时增加更多的样本并不总是有益,与现代学习结构中观察到的现象相似。
- 普通内核的旋转不变性如何阻碍高维泛化
该论文研究了核岭回归在高维情况下存在偏差的问题,分析了常用核函数(如 RBF 核、内积核和全连接 NTK 核)的旋转不变性属性在高维情况下对低次多项式存在偏差,从而阐明了核岭回归普遍性一般性误差的下限,这表明核函数的结构超出了其特征值衰减和 - ICML关于无偏 Alpha 散度最小化的困难
本文探讨信号噪声比的方法用于最小化近似分布和目标分布之间的 alpha-divergence,结果发现在高维的情况下,实现这种方法的可行性存在质疑。
- 通过遗憾最小化实现健壮和重尾均值估计的简化
本文提供一个元问题和一个对偶定理,通过这个元问题和对偶定理,我们从新的统一的视角研究了高维健壮统计和重尾分布均值估计问题,并展示了一个既简单又高效的算法,该算法用于处理两个不同问题通过两种算法最终合并实现了 “大同小异”
- KDD低查询预算环境中,简单高效且硬标签黑盒对抗攻击
提出了一种使用贝叶斯优化来进行黑盒攻击的方法,通过在结构性低维子空间中搜索对抗样本来避免 BO 在高维度下的性能问题,实验结果显示该方法相较现有黑盒攻击算法需要更少的查询次数,并且攻击成功率提高了 2 到 10 倍。
- 学习深度核函数进行非参数双样本检验
本文提出了一类基于核函数的两样本检验方法,其使用由深度神经网络参数化的核函数以确定两个样本集是否来自同一分布,适用于高维、复杂的数据,并在基准和实际数据上证明了其卓越的性能。
- ICML环面与球上的标准流
本文研究在高维度空间中建立表现力强的分布,提出了计算表达稳定的 Lipschitz normalizing flows,探讨圆、封闭区间或球面上流的性能,并使用实验结果验证其有效性。
- ICML核相互作用技巧:高维度中成对交互的贝叶斯快速发现
本文介绍了一种新的基于高斯过程的贝叶斯方法,能够通过使用 O(p)内核超参数来捕获后验概率,从而实现运行时间和内存直接线性相关,并且通过实验表明其在各种协变量行为的数据集上相对于现有贝叶斯和 LASSO 方法具有更好的计算缩放和错误率。
- 高维情况下基于哈希的核密度估计器
该论文研究了基于局部敏感哈希实现无偏估算的核密度估计数据结构,旨在在高维数据集中实现高效的核密度估计,并提供比单纯随机抽样更好的理论保证。
- 高维贝叶斯优化使用 Dropout
使用 dropout 策略在高维贝叶斯优化中优化每次迭代的变量集。对遗憾进行了理论上的界定,并在训练级联分类器和优化合金组合这两个现实应用中证明其有效性。
- 在双矩阵集合上进行流形优化:一个二阶几何方法
本文介绍了使用 Riemannian optimization 方法求解一类具有特定盒式约束的凸优化问题,通过引入三个流形来实现求解,这些流形适用于具有多维概率分布函数的变量,且在高维度中具有优越性能。
- ICML高维度下的鲁棒性对实际应用有益
该论文介绍了一种通过使用分布模型以及多项式时间算法在高维数据中实现鲁棒性估计的方法,并且提出了优化方法,以使算法能够适应更多的数据异常值,实现更高效的鲁棒性估计。
- 高维稀疏估计任务的鲁棒性
本文研究在高维度及受到恶意破坏性干扰情况下,稀疏估计任务能否有效地完成,并提供了一些在存在噪音的情况下,提供非平凡误差保证的有效算法。研究表明,在这些问题上存在着计算与统计之间的差距。
- AAAI学习高维结构化单指数模型
本文提出了高维度结构限制下单指数模型(Single Index Models)的计算有效算法,实验证明该方法相对于广义线性模型和单层前馈神经网络都有更好的预测性能并具有更低的计算成本。
- 高维单指数模型学习
提出了三种计算和统计效率高的算法来推断高维 Single Index Models (SIMs),相对于广义线性模型(GLM)和低维 SIM 方法,实验证明了我们的方法具有更好的学习性能和优越性。
- 几种聚类方法和初始化方法的实验比较
本文研究高维数据的聚类方法,探讨了 Expectation-Maximization 算法、基于 K-means 的获胜者通吃算法和基于模型的分层凝聚聚类算法,发现 EM 算法在质量上明显优于其他方法,并研究了各种初始化方案对 EM 算法产