Oct, 2023

IW-GAE：用于提高非监督领域自适应中校准和模型选择的重要性加权分组准确性估计

PDF
TL;DR本文提出了一种新颖的权重分组准确度估计方法，以解决由于分布变化导致的模型校准和模型选择困难，实验证明了分组准确度估计在提高模型校准和模型选择上的有效性，强调了在无监督领域适应中解决挑战的重要性。
accuracy estimationdistribution shiftmodel calibrationmodel selectionunsupervised domain adaptation
发现论文，激发创造
  • 基于无监督域自适应的校准变量偏移预测

    本文提出了一种算法，用于校准模型预测并考虑协变量转移的情况，采用重要性加权法纠正训练分布与实际分布的差异，并通过领域适应的方法实现两个分布尽可能一致， 实证结果表明，该方法在存在协变量转移时优于现有的校准方法。

    Feb, 2020

  • 通过聚合解决无监督域自适应中的参数选择问题

    该论文研究了在无监督领域适应问题中选择算法超参数的方法，并针对此提出了一种基于加权最小二乘法的向量值函数扩展算法，该算法的目标错误渐进地不劣于未知最优聚合的两倍。并在各种数据集（包括文本、图像、脑电波、身体传感器信号和手机信号）上进行了大规模实证比较研究，表明该方法在解决无监督领域适应中的参数选择问题方面具有理论错误保证，并且在各数据集上均超越了其他算法。

    May, 2023

  • 利用无似然重要性加权的方法校正学习生成模型的偏差

    采用似然比未知的情况下可估计的概率分类器进行样本权重优化的无似然比重要加权方法，可以用于校正生成模型中的偏差问题，并提高生成模型的样本质量和性能。

    Jun, 2019

  • 超参数化领域中 “重要性加权” 估计器的离群错误的尖锐分析

    我们研究了一个过参数化的高斯混合模型，结合了 “重要性权重”，对一个插值解的内分布和外分布的测试误差进行了严格的分析，发现了最坏情况下分布偏移鲁棒性和平均准确度之间的新的权衡关系。

    May, 2024

  • 自主驱动的重要性权重理论分析 —— 基于协变量偏移广义化的研究

    本文证明了独立驱动的重要性权重算法的有效性，并将其解释为特征选择过程，指定了最小稳定变量集，在理想条件下，该算法可以识别此集合中的变量，并提供了渐近性质分析，结果在多个合成实验中得到证明。

    Nov, 2021

  • 超越校准：估算现代神经网络的分组损失

    本文研究了分类器给出可靠置信度分数的能力，在分组损失的影响下，提出了适用于标准设置下的分组损失估计器，利用该估计器证明了现代神经网络在计算机视觉和自然语言处理中存在分组损失

    Oct, 2022

  • 排名与重新加权改善组分布鲁棒性

    本文提出了一种基于 Discounted Cumulative Gain（DCG）评估模型质量的方法，并建议了 Discounted Rank Upweighting（DRU）训练方法以提高模型的品质，在实验中结果表明，这种基于组排名的训练方法能够选择和学习出对组分布性变化具有鲁棒性的模型。

    May, 2023

  • 自适应优先权重新加权以提高公平性泛化

    通过提出一种新颖的自适应重新加权方法，该论文旨在消除训练和测试数据之间分布变化对模型普适能力的影响，进而改善算法的公平性和泛化性能。实验证明了该方法在准确性和公平性度量方面的普适性，并突出了对语言和视觉模型公平性改善的性能提升。

    Sep, 2023

  • 将重要性加权泛化为分布偏移问题的通用求解器

    本文研究了分布转移问题（DS）中包含了四种情况的训练集和测试集的支持度不同的情况，通过普适的广义重要性加权（GIW）方法将 IW 方法进行了推广，使其不仅能适用于情况（i）和（ii）还能用于情（iii）和（iv），专注于考虑训练集和测试集支持度不匹配并且保证风险的一致性，实验表明 GIW 比 IW 方法在（iii）和（iv）情况下表现更好。

    May, 2023

  • 重新思考分布移动下的深度学习重要性加权

    本文研究分布偏移问题下，重要性加权在复杂数据上无法良好运作的原因，并提出了一种基于动态重要性加权的端到端解决方案。实验表明，该方法能够与现有最先进的方法相媲美。

    Jun, 2020