CVPRMar, 2022

标签效率元学习的多维信念量化

PDF
TL;DR提出了一种基于优化的元学习方法，其利用新的不确定性感知任务选择模型和多查询任务公式，在进行少样本学习时，能够有效地降低标记成本和计算开销，并且在多个实际应用中进行的实验表明，该模型效果显著。
optimization-based meta-learningfew-shot learninguncertainty-aware task selection modelmulti-query task formulationimage classification
发现论文，激发创造
  • 使用狄利克雷元模型进行后验不确定性学习

    提出了一种基于贝叶斯元模型的方法，该方法用于增强预训练模型的不确定性量化能力，以实现不同应用场景下的预测性能，例如图像分类中的领域外数据检测、错分检测和可信迁移学习，无需额外的训练数据，从而在多个代表性图像分类基准测试上展示了更好的表现。

    Dec, 2022

  • 概率模型无关元学习

    该论文提出了一种概率元学习算法，能够从模型分布中采样模型，并且在模型适应新任务时注入噪声来减少任务模糊性，实验结果表明，该方法可以在模糊的少样本学习问题中采样出可信的分类器和回归器，并且阐述了如何利用对模糊性的推理来解决活跃学习问题。

    Jun, 2018

  • 变分推断在模型无关元学习中的不确定性

    本文提出了一种新的、严谨的贝叶斯元学习算法，用于学习少样本学习的模型参数先验的概率分布。该算法采用基于梯度的变分推断来推断模型参数的后验分布。我们展示了使用我们提出的元学习算法训练的模型具有良好的校准和准确性，在两个少样本分类基准测试（Omniglot 和 Mini-ImageNet）上取得了最新的校准和分类结果，并在多模式任务分布回归中获得了有竞争力的结果。

    Jul, 2019

  • 元学习在小样本学习中的置信度

    论文提出了一种用于 few-shot 学习中元学习置信度和距离度量的方法，以提高模型在未见任务上的传导推理性能，并在四个基准数据集上获得了最新的最优结果。

    Feb, 2020

  • 面向多模态任务分布的不确定性感知元学习

    本文提出了 UnLiMiTD 方法，该方法是一种基于概率预测和基于贝叶斯推理的 meta-learning 方法，能够有效应对少量数据和多模态任务分布的不确定性，同时在 OoD 任务上也表现良好。

    Oct, 2022

  • 提高置信度估计的可靠性

    本研究提出了一种基于元学习的框架来同时提高置信度估计模型在不均衡数据和各种数据输入情况下的表现，并在单目深度估计和图像分类任务中进行了验证。

    Oct, 2022

  • 贝叶斯模型无关元学习

    本文提出一种新的贝叶斯模型无关元学习方法，结合可伸缩的基于梯度的元学习和非参数变分推断，通过一个有原则的概率框架去学习复杂的不确定性结构，并且在 meta-update 时使用鲁棒的贝叶斯 meta-update 机制防止过拟合。此方法在各种任务中展现了准确性和鲁棒性。

    Jun, 2018

  • 不确定性感知的少样本图像分类

    本文提出了一种不确定性感知的 few-shot 图像分类框架，通过模拟查询和支持样本之间相似度不确定性，提高了模型对有限样本的优化能力，并在基准模型的基础上显著提升了模型性能。

    Oct, 2020

  • 利用 LoRA 整体进行 LLMs 的微调的不确定性量化

    利用计算效率高的低秩适应集合，推导了对细调 LLM 的基于后验估计的确定性量化方法，并通过分析三个常见的多选数据集，量化和定性地得出了他们在不同目标领域中的知觉复杂性和模型效能，并假设了一种对于给定体系结构难以学习的数据领域的熵不确定性度量的信号。

    Feb, 2024

  • 浅层贝叶斯元学习用于实现现实世界中的小样本识别

    本文介绍了一种名为 MetaQDA 的贝叶斯元学习模型，其特点是在元学习分类器层面上实现 few-shot 学习。实验表明，这种方法在跨领域 few-shot 学习中具有鲁棒的性能，并能更好地预测不确定性。

    Jan, 2021