Apr, 2022

医学文本的小样本学习：系统综述

PDF
TL;DR本篇综述了最新关于使用少样本学习方法来解决医疗自然语言处理问题的研究状态。结果显示，多数研究侧重于已存在的数据集，其中概念提取和命名实体识别是最常见的任务，研究方法主要包括注意力机制、原型网络和元学习。然而，当前的研究还面临着医学领域数据集数量有限以及少样本学习方法在医学领域表现不如在其他领域的问题，因此需要创建更加专业的医学数据集来促进该领域方法的发展比较分析。
few-shot learningmedical nlpnatural language processingconcept extraction/named entity recognitionprototypical networks
发现论文，激发创造
  • 使用孪生神经网络进行临床自然语言处理的小样本学习

    本文提出了两种基于 Siamese 神经网络的 few-shot 学习方法，应用于临床自然语言处理的文本分类和实体识别任务。实验结果证明了这种方法的有效性。

    Aug, 2022

  • 受限 Few-Shot 学习：类人低样本复杂度学习和非情节文本分类

    本文提出了一种新的任务：约束的少样本学习（CFSL），介绍了一种基于 Cat2Vec 的 CFSL 方法，该方法使用类别对比损失，并受到模糊痕迹理论和原型理论等认知理论的启发。

    Aug, 2022

  • 医学影像中少样本学习的系统回顾

    基于系统回顾，本文阐述了少样本学习在医学影像识别中的广泛应用，特别是基于元学习的方法，该方法可以克服数据稀缺问题，适应少标注样本，并且常用的技术是监督学习和半监督学习，主要应用领域集中在心脏、肺和腹部等部位。

    Sep, 2023

  • 从少数样本中推广：关于小样本学习的调查

    本文在对 Few-Shot Learning 进行了深入的调研的基础上，选择使用三种视角：数据，模型，和算法来对 FSL 的方法进行分类，以提供未来研究的启示。

    Apr, 2019

  • 基于大型语言模型的高效少样本临床任务适应

    通过部分冻结的简单微调变体和上下文化标签，提出了一种在有限样本大小下超越传统微调方法的方法，从而显著提高了医学图像的语义嵌入区分度，使得在 1-shot 设置下与常用的 one-hot 标签和其他语义监督方法相比性能提高了 3%-5%。

    Dec, 2023

  • 使用 FASL 进行主动式少样本学习

    本文介绍了一种新型迭代式快速文本分类模型训练平台 FASL，将 few-shot learning 和 active learning 两种方法相结合，探究了哪种主动学习方法在 few-shot setup 中的效果最佳，还开发了一个模型来预测何时停止标注。

    Apr, 2022

  • 干预式少样本学习

    通过构建因果模型，提出了一种新的干预式 Few-Shot 学习范式，与现有的 Fine-tuning 和 Meta-learning 等方法正交，可以显著提高它们的性能，在多个数据集上均取得新的 1-/5-shot 最新成果。

    Sep, 2020

  • FewJoint: 一个联合语言理解的小样本学习基准

    本文提出 FewJoint，一个针对 NLP 的 Few-Shot Learning 基准测试，并在 SMP2020-ECDT 的 Few-Shot Learning 比赛中使用此基准测试。

    Sep, 2020

  • 迈向绿色和人类智能：当代少样学习方法的综合调查

    深度学习在数据资源和计算资源需求上的局限性使得其在许多数据受限的实际应用中不实用，而 Few-Shot Learning（FSL）旨在通过使其能够快速适应新学习任务来解决这些限制，并在最近几年取得了显著的增长。本综述提供了对该领域最新进展的全面概述，包括 FSL 的定义、与不同学习领域的关系、引入的新分类法以及经典和新领域中的实际应用。在最后，讨论了塑造该领域的最近趋势、突出挑战和有前景的未来研究方向。

    Feb, 2024

  • LSFSL: 利用形状信息进行少样本学习

    LSFSL improves the generalizability and robustness of few-shot learning models by incorporating relevant priors and addressing shortcut learning in deep neural networks.

    Apr, 2023