Dec, 2023

基于核方法的标签偏移适应中的类别概率匹配

PDF
TL;DR在领域适应中，协变量偏移和标签偏移问题是两个不同而互补的任务。针对标签偏移适应，提出了一种称为类概率匹配的新框架，通过匹配两个类概率函数在一维标签空间上估计类概率比率，与在 $d$ 维特征空间上操作的特征概率匹配方法有根本区别。将核逻辑回归纳入类概率匹配框架中，提出了一种称为基于核方法的类概率匹配的算法，用于标签偏移适应。从理论角度，建立了多类标签偏移适应中 CPMKM 相对于交叉熵损失的最优收敛速度。从实验角度，对真实数据集进行比较表明，CPMKM 优于现有基于 FPM 和最大似然的算法。
发现论文，激发创造
  • 核均值匹配在协变量转移下的分析

    针对一种特定的协变量偏移问题，该研究利用核均值匹配 (KMM) 估计器的高概率置信界推导出该估计器的收敛速率，并与自然插值估计器进行比较，结果表明其具有更好的效果和应用价值。

    Jun, 2012

  • 通过分布特征匹配实现带健壮性保证的标签偏移量量化

    本文提出了一种分布特征匹配（DFM）框架，可以估计标签偏移下的目标标签分布，并研究了 DFM 程序在存在未知污染分布的假设下的健壮性。

    Jun, 2023

  • 无标签条件下适应分布偏移的适应性符合性预测

    通过两种新方法 ECP 和 EACP，根据基模型在未标记测试数据上的不确定性调整 CP 中的评分函数，从而仅使用测试域中的未标记数据改进 CP 生成的预测集的质量。通过对许多大规模数据集和神经网络架构进行广泛实验，我们展示了我们的方法相对于现有基准算法的持续改进，并几乎与监督算法的性能相匹配。

    Jun, 2024

  • 协变量偏移适应性的双加权方法

    该研究提出了最小化风险分类的方法来处理资料控制变量变化的问题，同时也发展了有效的技术，取得了更好的分类性能。

    May, 2023

  • 面向协变量偏移条件下核方法统一分析的探究

    统一分析了具有协变量转移的一般非参数方法在再生核希尔伯特空间下的理论，得出了收敛速度，并与现有文献中使用的最优结果相吻合。在合成和实际例子上进行的广泛数值研究证实了我们的理论发现，进一步说明了我们提出的方法的有效性。

    Oct, 2023

  • 通过格里斯曼流形上的核回归进行零样本领域适应

    本文提出了一种新的域自适应方法，当目标域可以被描述为参数化向量且存在几个相关源域在同一参数空间内时，它无需访问目标域的数据或标签，大大降低了数据收集和注释的负担，并显示出一些有前途的结果。

    Jul, 2015

  • 基于条件矩匹配差异的图像分类中学习核

    本文提出了 KLN 方法，即利用深度神经网络的特征进行迭代学习，使用 CMMD 损失和自编码器等方式来实现注射函数的学习，从而提高了数据分类描述的效能，分类性能达到了最新的良好结果。

    Aug, 2020

  • 领域适应的代理方法

    我们研究了领域适应问题，该问题是由于未观察到的潜在变量分布改变所导致的分布偏移。我们的适应方法采用了近端因果学习，一种用于估计因果效应的技术，适用于存在未观察到的混淆变量代理的情况。我们证明了代理变量允许在不明确恢复或建模潜在变量的情况下适应分布偏移。我们考虑了两种情况：（i）概念瓶颈：观察到一个额外的 “概念” 变量，它介导了协变量和标签之间的关系；（ii）多领域：有来自多个源领域的训练数据，其中每个源领域对潜在混淆变量有不同的分布。我们在这两种情况下开发了一种两阶段核估计方法，以适应复杂的分布偏移。在我们的实验证明，我们的方法优于其他方法，尤其是那些明确恢复潜在混淆变量的方法。

    Mar, 2024

  • 时空多模态协变深度核点过程的无集成训练

    本研究提出了一种新颖的深空时点过程模型，它结合了多模态协变量信息，通过使用更灵活的深度核模型复杂事件与协变量数据之间的关系，提高了模型的表达能力。为了解决由于非可积深度核导致的 DKMPP 不可行的训练过程，我们采用了基于分数匹配的无积分方法，并通过采用可扩展的降噪分数匹配方法进一步提高了效率。我们的实验证明，DKMPP 及其相应的基于分数的估计器优于基准模型，展示了结合协变量信息、利用深度核以及采用基于分数的估计器的优势。

    Oct, 2023

  • 可扩展且无超参数的非参数转移适应与条件采样

    我们提出了一种新的非参数方法来进行协变量转移适应，避免了权重估计和超参数调整，并实现了样本规模几乎线性的运行时间，同时保持了与参数方法相同的收敛速度。

    Dec, 2023