- KDDRC-Mixup:用于回归任务的对抗噪声数据的数据增强策略
我们研究了在存在噪声数据的回归任务中的鲁棒数据增强问题。我们提出了将 C-Mixup 和多轮鲁棒训练方法紧密结合的数据增强策略 RC-Mixup,以识别干净数据并显著提高回归性能。
- RS-Reg:随机平滑的概率性和稳健回归认证
通过定义回归任务中的鲁棒性,灵活地通过概率,我们展示了如何为用户指定的观察到有效输出的概率建立输入数据点扰动(使用 $l_2$ 范数)的上界。我们还展示了在回归模型无约束操作的情况下,基本的平均函数的渐近特性。在处理输出有界的回归模型族时, - 深度回归的不确定性量化指标
在部署机器人或其他物理系统上的深度神经网络时,可靠地量化预测不确定性以允许下游模块对其行为的安全性进行推理至关重要。本文研究了评估这种不确定性的度量标准,具体关注回归任务,并调查了 Sparsification Error 下面积 (AUS - 学习网络的权重动态
使用局部稳定性分析的数学框架,我们研究了前馈神经网络学习动力学的深层理解,推导了三层神经网络在学习回归任务时的切线算子方程,结果适用于任意节点数和任意激活函数的选择。我们通过数值方法应用这些结果于网络学习回归任务中,调查了稳定性指标与最终训 - 深度集合方法用于 6D 物体姿态估计的不确定性量化
提出一种用于深度集成的多阶段 6D 物体姿势估计方法的不确定性量化方法,使用 SurfEmb 进行实现,并提出一种用于回归任务的新型不确定性校准分数评估估计的质量。
- 如何验证机器学习回归任务的平均校准性?
根据最新机器学习不确定性量化文献上的数据集集成,本文展示了标定误差 (CE) 极其敏感于不确定性分布的特点和异常值不确定性的存在,因此不适合用于标定测试,相比之下,ZMS 统计量在这个背景下提供了最可靠的方法,并且探讨了条件标定验证的启示。
- 高光谱数据回归的对比学习
本文提出了一种用于高光谱数据回归任务的对比学习框架,通过提供一系列与高光谱数据增强相关的转换方式,并研究对比学习对回归任务的影响,实验结果表明该框架和转换方式明显提高了回归模型的性能,优于其他最先进的转换方式。
- ICML一种基于图的性能分析新型表示学习技术
将表格形式的性能数据转换为图形,利用图神经网络方法捕捉特征和样本之间复杂的关系,以提高回归任务的性能分析领域中的预测模型的性能。
- 选择子集用于源数据传递学习在金属增材制造中的应用
考虑到金属添加制造(AM)中数据不足的情况,本文提出了一种系统的方法,基于源数据和目标数据之间的相似性,为给定的受限目标领域数据找到适当的源数据子集。这种相似性是由空间和模型距离度量来表征的,并采用帕累托前沿的源数据选择方法进行集成,该方法 - 基于目标无关的源自由域自适应回归任务
TASFAR 是一种针对回归任务的目标不可知的无源领域适应方法,通过预测置信度来估计目标标签分布,从而校准目标领域上的源模型,实验证明 TASFAR 在四个任务上平均降低了 22% 的误差,同时实现了与基于源的 UDA 几乎相当的准确性,而 - 回归任务的简单可迁移性估计
我们提出了两种简单且计算高效的方法,基于线性回归模型的负正则化均方差误差来估计优化的目标模型的转移性,在准确性和效率两方面显著优于现有的最先进的回归可转移性估计器。
- 利用深度三维卷积神经网络直接从高能物理数据中提取 BSM 物理参数的训练:基于蒙特卡洛模拟的概念验证研究
使用计算机视觉技术从高能物理学的味道数据中直接提取超出标准模型(BSM)参数的一种新的应用,通过将角度和动力学分布转化为 “准图像”,训练卷积神经网络执行回归任务,与在高能物理学中使用机器学习 / 人工智能进行的通常分类功能相对应。
- 神经科学启发的科学机器学习 (第一部分): 变量尖峰神经元用于回归
本论文介绍了一种称为变量尖峰神经元(VSN)的新型尖峰神经元,它可以通过借鉴生物神经元的漏积分与发射尖峰神经元(LIF-SN)的概念,减少冗余激发,同时保持能源预算低,并在分类和回归任务中取得了良好的结果。
- 计算近似的 ℓp 敏感度
近期在降维回归任务中引入了敏感性的概念,提供了通过子采样移除低敏感性数据点后的近似质量的可证明保证。本文提供了计算给定矩阵的相关汇总统计量和近似敏感性的高效算法,分别针对不同的 Lp 范数进行了泛化,并通过实验表明,实际数据集的敏感性远远小 - 基于增强树的基于模型不确定性的表格数据主动学习
本研究探讨了基于提升树的主动学习方法对表格数据的有效性,利用模型不确定性进行样本选择,并针对回归任务提出了一种成本效益高的主动学习方法,同时也提出了改进的成本效益高的分类任务的主动学习方法。
- TRIAGE: 为改善回归问题的训练数据进行特征化和审计
TRIAGE 是一个针对回归任务的数据表征框架,利用符合性预测分布为模型提供特定的评分方法,该方法能够分析个别样本的训练动态,并将样本按照模型的欠估、过估或准确估计进行分类;研究结果表明 TRIAGE 的特征描述结果具有一致性,并展示了其通 - 层次分类调整的深度不平衡回归
通过构建层次分类器,解决不平衡回归任务,并通过保持范围的蒸馏过程有效地学习单个分类器。在不同的任务中,如年龄估计、人群计数和深度估计,展示了优越的结果。
- 贝叶斯回归市场
机器学习任务对输入数据的质量很敏感,但是企业往往难以获得足够的数据集,这些数据集通常在不同的所有者间进行自然分布,这些所有者在实践中可能是下游市场的竞争对手,且不愿意共享信息。我们提出了一种基于贝叶斯框架的回归市场机制,为数据共享提供了经济 - 变形金刚何时能够通过抽象符号进行推理?
调查了 Transformer 大型语言模型在涉及抽象符号的关系推理任务中的能力。对于 (i) 回归任务,我们证明了 Transformer 在训练时具有泛化性,但需要大量的训练数据;对于具有符号标签的 (ii) 下一个令牌预测任务,我们展 - MM线性注意力或许是你所需的全部(理解 Transformer 优化的)
通过对线性化浅层 transformer 模型的研究,我们对 transformer 训练的复杂性有了更深入的了解,并观察到线性化模型能够重现 transformer 训练动态的几个重要方面,因此,本文的结果表明简单的线性化 transfo