ActiveLLM 是一种新颖的主动学习方法，通过利用诸如 GPT-4、Llama 3 和 Mistral Large 之类的大型语言模型来选择实例，显著提高了 BERT 分类器在少样本场景中的分类性能，并且可以扩展到非少样本场景，为各种学习设置提供了改进模型性能的有希望的解决方案。

May, 2024

本篇综述了最新关于使用少样本学习方法来解决医疗自然语言处理问题的研究状态。结果显示，多数研究侧重于已存在的数据集，其中概念提取和命名实体识别是最常见的任务，研究方法主要包括注意力机制、原型网络和元学习。然而，当前的研究还面临着医学领域数据集数量有限以及少样本学习方法在医学领域表现不如在其他领域的问题，因此需要创建更加专业的医学数据集来促进该领域方法的发展比较分析。

Apr, 2022

深度学习在数据资源和计算资源需求上的局限性使得其在许多数据受限的实际应用中不实用，而 Few-Shot Learning（FSL）旨在通过使其能够快速适应新学习任务来解决这些限制，并在最近几年取得了显著的增长。本综述提供了对该领域最新进展的全面概述，包括 FSL 的定义、与不同学习领域的关系、引入的新分类法以及经典和新领域中的实际应用。在最后，讨论了塑造该领域的最近趋势、突出挑战和有前景的未来研究方向。

Feb, 2024

通过与用户的有限交互，为真实世界的应用而设计的机器人将需要不断学习其环境。本文结合了少样本类增量学习（FSCIL）和主动类选择（ACS）的思想，开发了一个新框架，使自主代理能够通过要求用户仅对环境中最富信息的少数对象进行标记来持续学习新对象。我们构建并扩展了一种最先进的 FSCIL 模型，并结合 ACS 文献中的技术，将其命名为少样本增量主动类选择（FIASco）模型。我们进一步将基于潜在场的导航技术与我们的模型集成，开发了一个完整的框架，可以使代理通过 FIASco 模型对其感知数据进行处理和推理，朝向环境中最富信息的对象导航，通过其传感器收集对象的数据，并逐步更新 FIASco 模型。在模拟代理和真实机器人上的实验结果显示了我们的方法对于长期的真实世界机器人应用的重要性。

Jul, 2023

本文提出了一种新的任务：约束的少样本学习（CFSL），介绍了一种基于 Cat2Vec 的 CFSL 方法，该方法使用类别对比损失，并受到模糊痕迹理论和原型理论等认知理论的启发。

Aug, 2022

本研究提出了一种新颖的集成方法以减少 few-shot 分类中的变化，同时利用主动学习来选择优秀的 Prompt，并基于此提出了一个名为 MEAL 的综合方法，可以在 5 个不同的任务上改进 Prompt-based 微调的整体性能 2.3 个绝对点。

Nov, 2022

我们研究了大型神经网络在下游任务中的主动少样本微调问题。我们证明了少样本微调是传统主动学习、转导式主动学习的一种泛化，并提出了信息导向的转导学习（ITL）方法，该方法通过适应性采样来最大化对指定下游任务的信息获取。在一般正则性假设下，我们证明了 ITL 收敛于可从可访问数据中获得的最小不确定性。据我们所知，我们是第一个推导出这种泛化界限的研究者，这对于主动学习可能具有独立的利益。我们将 ITL 应用于大型神经网络的少样本微调，并展示 ITL 相比现有技术取得了显著改进。

Feb, 2024

本文是第一次系统地研究了主动学习在文本生成方面的应用，研究表明现有的主动学习策略在文本生成场景下效果不佳，无法持续超越随机示例选择的基准线。

May, 2023

本文探讨了通过基于提示的少样本学习在对话任务中的应用，通过对多种大小的语言模型进行测试，提出一种新的无需微调的提示分类器，并结合技能选择器创建了一种称为 Few-Shot Bot 的端到端聊天机器人，只需使用少量对话示例便可以完成知识检索并生成人类般自然的响应。

Oct, 2021

本文在对 Few-Shot Learning 进行了深入的调研的基础上，选择使用三种视角：数据，模型，和算法来对 FSL 的方法进行分类，以提供未来研究的启示。

Apr, 2019