通过对神经网络的输入层和输出层进行修改，在保持其基本架构能力的同时，实现了任意连续函数在相应连续紧致集上的均一逼近能力。此研究同时发现当输入输出空间为 Cartan-Hadamard 流形时，常用的非欧几里得回归模型可扩充至通用的深度神经网络，并且该扩充同样应用在用于分层学习的双曲线正切前馈网络上。

Jun, 2020

本研究提出了一种自动构建任何权重空间的置换等变模型的算法，称为通用神经功能（UNF），在现有学习优化器设计中替代并对小型图片分类器和语言模型的优化效果显示出有希望的改进，结果表明学习优化器能够通过考虑其优化的权重空间结构获益。

Feb, 2024

本文证明典型情况下，基于量子增强特征空间的机器学习模型是连续函数的通用逼近器，从理论角度探究了量子特征映射的表达能力与在分类不相交区域方面的功能。

Sep, 2020

使用一个多角度一致性损失函数，我们提出了 FeatUp，一种可以恢复深度特征中丢失空间信息的任务和模型无关的框架。通过保持原始语义，FeatUp 在现有应用中替换特征，从而取得了分辨率和性能上的提升，甚至无需重新训练，我们在类别激活图、分割和深度预测的传递学习以及语义分割的端到端训练方面展示了 FeatUp 明显优于其他特征上采样和图像超分辨率方法。

Mar, 2024

我们将神经网络的普适逼近定理推广到对于线性表示组不变或等变的映射，以建立一种像网络一样的计算模型，能够在能够逼近任何连续不变 / 等变映射的同时保持不变 / 等变。我们提出了完备的不变 / 等变网络的构造，通过引入中间多项式层，通过 Hilbert 和 Weyl 的定理证明了我们的构造方法。我们提出了适用于 SE（2）群的 “电荷守恒卷积” 模型，并证明其是连续 SE（2）等变信号变换的通用逼近器。

Apr, 2018

本文介绍了一种基于 Riemannian 几何和代数拓扑的非参数图形降维算法 UMAP 及其通过神经网络权重进行参数优化以实现快速在线嵌入的拓展。研究进一步探索了 UMAP 作为正则化的应用，以捕获未标记数据中的结构，提高分类器的精度，并改善自编码器的潜在分布的全局结构保留。

Sep, 2020

在脑机接口领域，我们引入了一种名为近似 UMAP（aUMAP）的新方法，用于实时推断，其结果显示该方法能够在减少投影速度一个数量级的同时维持与标准 UMAP 相同的训练时间和投影空间。

Apr, 2024

该论文提出了一种新的统一特征优化（UFO）模型，结合多任务学习、网络架构搜索等方法，极大方便模型的灵活部署，在保持大规模预训练精度的基础上，实现了模型体积缩小和预测精度提高。

Jul, 2022

通过证明参数矩阵、线性向量和 ReLU 激活函数这个控制组合能够统一逼近定义域在任意紧致区域的微分同胚，我们揭示了神经网络的逼近能力与控制系统之间的关联。

Dec, 2023

基于神经特征提取器和图形结构，我们提出了一个新颖的学习系统设计框架，并使用特征空间中的几何结构进行学习问题的建模。我们通过嵌套技术设计学习算法，从数据样本中学习最佳特征，进而应用于现成的网络架构和优化器，同时我们还探讨了多元学习问题，包括条件推理和多模态学习，以及它们与经典方法的联系。

Sep, 2023