元学习中的动态核选择，提高泛化性能和内存效率

CVPRJun, 2022

元学习中的动态核选择，提高泛化性能和内存效率

Dynamic Kernel Selection for Improved Generalization and Memory Efficiency in Meta-learning

Arnav Chavan, Rishabh Tiwari, Udbhav Bamba, Deepak K. Gupta

TL;DR本文提出了一种名为 MetaDOCK 的任务特定动态内核选择策略，通过良好地压缩 CNN 和任务特定的内部模型，可以在减少模型大小的同时提高模型的准确性。

Abstract

Gradient based meta-learning methods are prone to overfit on the meta-training set, and this behaviour is more prominent with large and complex networks. Moreover, large networks restrict the application of meta-learnin

meta-learning dynamic kernel selection compressed cnn models model size reduction task-specific inner models

发现论文，激发创造

分类的成对差异学习

该论文扩展了对比差异学习 (PDL) 在分类任务中的应用，提出了一种元学习技术，通过解决原始训练数据的成对版本上的适当定义的（二元）分类问题，来诱导 PDL 分类器。在大规模的实证研究中，分析了 PDL 分类器的性能，并发现其在预测性能方面优于现有的方法。最后，提供了一个易于使用和公开可用的 PDL 的 Python 包实现。

Jun, 2024

探索基于频率感知的跨域少样本分类

通过提出一种基于频率感知提示的方法，该方法使用双向注意力模块来模拟人类视觉感知，在跨领域少样本分类中能够改善现有方法的性能。

Jun, 2024

通过元学习实现自动化的隐私保护技术

AUTOPRIV 是第一个自动化的隐私保护方法，利用元学习自动化进行去身份化过程，有助于安全发布用于机器学习任务的数据。它通过提供一系列有前景的解决方案来预测预测性能和隐私风险，从而在新领域内实现最佳近似。通过将计算复杂性和能源消耗大大降低，AUTOPRIV 具有很高的效能。

Jun, 2024

MetaFollower: 适应性个性化自动车辆跟随

通过元学习，我们提出了一种可适应个性化车辆跟驰的 MetaFollower 框架，结合长短期记忆网络（LSTM）和智能驾驶模型（IDM），能够准确捕捉和模拟车辆跟驰行为的细微动态，并考虑到个体驾驶者的独特驾驶风格。与常规的自适应巡航控制系统相比，该框架能够快速适应新驾驶员并在预测车辆跟驰行为方面具有更高的准确性和安全性。

Jun, 2024

高效通信与隐私保护的分散化元学习

在这篇论文中，我们提出了一种名为 LoDMeta（本地分布式元学习）的方法，利用本地辅助优化参数和模型参数的随机扰动来降低通信成本并提高数据隐私保护。理论结果和实证结果都表明，LoDMeta 与集中式元学习算法相比具有相似的元学习准确性，但不需要从每个客户端收集数据，并且能够更好地保护每个客户端的数据隐私。

Jun, 2024

使用 Transformer 神经过程的上下文学习

神经过程（NPs）是一类强大的元学习模型，旨在逼近元数据集中每个数据集从中抽样得到的地面真实随机过程的后验预测映射。我们在 NP 中增加了集成其他类似数据集的功能，描述了此范例作为上下文中的上下文学习。标准的 NP 架构（如卷积条件 NP（ConvCNP）或转换器神经过程（TNPs）系列）无法进行上下文中的上下文学习，因为它们只能在单个数据集上进行条件。我们通过开发上下文中的伪标记 TNP（ICICL-TNP）来解决这个问题。 ICICL-TNP 基于 PT-TNPs 系列，利用基于伪标记的转换器架构来规避常规转换器架构的二次计算复杂性。重要的是，ICICL-TNP 能够在数据点集和数据集集上进行条件修正，从而实现上下文中的上下文学习。我们在多个实验中证明了上下文中的上下文学习的重要性和 ICICL-TNP 的有效性。

Jun, 2024

发现最小的强化学习环境

通过元学习神经网络马尔可夫决策过程，我们发现专门的训练环境对于训练强化学习智能体具有潜在的速度提升能力，并且发现上下文为基的赌博机能够实现良好的评估环境转移，从而加速下游应用。

Jun, 2024

透过空中联邦元学习的预训练和个性化微调：收敛性与泛化性的权衡

本文研究了以元学习为基础的个性化联邦学习在无线环境中的泛化性能，通过研究信道受损对泛化和收敛之间的权衡关系，通过大量的数值实验证实了该理论。

Jun, 2024

概率短期负荷预测的堆叠方法

本研究探索元学习领域，结合点预测与概率短期电力需求预测，在量位线性回归、量位回归森林以及涉及残差模拟的后处理技术的基础上生成量位预测。另外，我们引入了全局和局部元学习的变种。在局部学习模式中，元模型使用最接近查询模式的模式进行训练。通过在 35 个预测场景上进行广泛的实验研究，并使用 16 个基本预测模型，我们的研究结果突显了量位回归森林在其竞争对手中的优势。

Jun, 2024

针对学习鲁棒分类器的伪装感知元学习

通过元学习训练图像分类器以减少对伪相关性的依赖，以实现对伪相关性的鲁棒性，同时在不知道先验信息的情况下获得了五个基准数据集上最好的鲁棒性。

Jun, 2024