- 深度神经网络在近似和估计中适应函数规律性和数据分布
深度学习在不同领域展现了显著的成果,但为了理解其成功,我们需要研究其理论基础。本文探讨了一个不同的角度:深度神经网络如何适应不同地点、尺度和非均匀数据分布的函数的不同规则性。我们使用深层 ReLU 网络发展了非参数逼近和估计理论,并在多个函 - P2PFormer:一种从遥感影像中提取规则建筑轮廓的点 - 多边形方法
从遥感图像中提取建筑轮廓是一个重要的挑战,本文介绍了一种新的流线型流程以无需后处理生成规则的建筑轮廓,使用分割通用几何图元并预测它们的顺序,在此基础上,开发了一个利用 Transformer 架构的 P2PFormer,通过引入群体查询的独 - 对抗贝叶斯分类器的唯一性概念
我们提出了对二元分类中对抗性贝叶斯分类器的新唯一性概念,并通过分析这种唯一性概念,提出了一个简单的计算针对一维数据分布的所有对抗性贝叶斯分类器的过程。利用这个特征,我们证明了当扰动半径增大时,一些正则性概念对于对抗性贝叶斯分类器有所改善。通 - 高斯过程的协方差核采样路径规律
通过对协方差核函数进行充分的必要条件判断,我们揭示了高斯过程的样本路径达到特定规则的条件,并证明了这些结果对机器学习中常用的 Matern 高斯过程等样本路径规则的特征提供了新颖而紧凑的描述。
- 自由游戏的规律性作为内在奖励
通过引入规则性作为一种新颖的奖励信号,我们在内在驱动的强化学习中提出了规则性作为主题。受到儿童发展的启示,我们假设追求结构和秩序有助于引导探索向不受基于不确定性的内在奖励青睐的任务子空间发展。我们提出的规则性作为内在奖励的广义公式,在模型驱 - 优秀的规则性形成大学习率的隐式偏差:稳定性、平衡和推动力的边界
优化中的大学习率、隐性偏差、非凸优化、规则性和收敛理论之间的关系。
- 基于 Transformer 网络的序列建模近似理论
本文探讨了 Transformer 在逼近序列关系上的能力和结构属性,通过证明其 hypothesis 空间的普适逼近定理,得出了一种新的正则化概念,并对其逼近率进行了显式估计,进而揭示了其与传统序列建模方法之间的结构偏差。
- 核化赌博机中适应误差核正则性
研究了在核化赌博机问题中,在未知正则性的情况下学习算法是否能够自适应于相关核函数的正则性。通过研究转化不变核的正则性自适应性,我们推导出自适应性的下限,证明不可能在具有不同规则性的 RKHS 对中同时实现最优累计遗憾。通过连接在不同功能空间 - ACL评估变换器神经网络作为英语过去时屈折的认知模型
本研究通过训练一组不同参数设置的 Transformer 模型,在英语动词过去式词形成任务上取得了高精度,进一步暗示了模型具有某种程度的抽象学习能力,但其表现不符合人类数据,可能不是一个好的认知模型。
- 透过反向一致性学习规则地图
探索通过逆一致性损失和随机离散插值结合的深度网络进行空间变换来获得映射的规则性,并且发现使用这种方法可以在不需要良好正则化器的情况下获得规则的映射,同时达到注册性能竞争力。
- 深度神经网络的 Lipschitz 正则性:分析与高效估计
本文提出了 AutoLip 和 SeqLip 两种神经网络架构方法的 Lipschitz 常数的自动上界估计算法,并探讨了这种算法在计算大型卷积和顺序神经网络时的使用情况和启发式技巧。我们提供了使用 PyTorch 环境的 AutoLip - 交互感知:利用行动感知和感知行动
探讨交互感知在机器人领域的原理和应用,强调交互作用可以产生更丰富的感知信号,并且感官数据和运动参数的组合空间中的规律性知识可以促进预测和解释信号,同时分析现有工作,并提出未来需要解决的问题。
- 汇聚表示的信号恢复
本文研究了 $l_p$ 池操作符的 Lipschitz 下界,得出了设计可逆神经网络层的充分条件,并在 MNIST 和图像片段上进行了数值实验以验证其可逆性和规律性。
- 压缩进展驱动:一个简单的原则解释了主观美、新奇、惊喜、趣味、注意力、好奇心、创造力、艺术、科学、音乐、笑话的必要方面
本文分析了数据在某些自我改进但计算能力受限的主体中变得临时有趣的原因,并探讨了好奇心驱使人类、数学家、艺术家、舞蹈家、喜剧演员和人工智能等进行探索的动机。
- 网络的冯・诺依曼熵
利用组合拉普拉斯的正则化方法,研究其特征值在概率分布上的 Shannon 熵作为图的正则度量,证明当节点集大小无限大时,正则图和完全图具有相等的正则度,而当边数固定时,具有大团的图似乎能够将此熵最小化。
- 关于黎曼浸没和黎曼积的最优映射平滑性(特别地,是圆球的)
该论文研究了优化传输映射正则性的关键条件 A3w。通过运输成本产生的伪 - 黎曼曲率 - 我们称之为交叉曲率 - 的非负性,暗示了 Ma、Trudinger 和 Wang 的 A3w。得出了满足交叉曲率非负性的一大类 Riemann 流形。 - 交替和平均非凸投影的局部收敛性
本文探讨了在可分析变差意义下,有限个闭集的强正则交集在构造效率算法时的应用和其中的正则性和收敛性质。
- 代数几何中可以计算的内容是什么?
本文调查了代数几何中的计算问题,着重讨论了 Grobner 基础理论和代数簇的正则性,其中包括几何和代数的介绍,范围、复杂性问题和应用。