Nov, 2022

一种使用弱监督和迁移学习的自动 SOAP 分类系统

PDF
TL;DR本文提出了一种基于机器学习的 SOAP 分类系统的综合框架，该框架使用基于规则的弱标记方法构建标记数据集，并使用双向 LSTM 和条件随机场 (CRF) 组成了分类器。研究表明，该弱标记算法可以在没有手动标记数据的情况下在同一医院的 EHR 笔记上进行 SOAP 分类，而迁移学习可以提高跨医院和部门的准确性。
soap classificationmachine learningtransfer learningweak labelingehr notes
发现论文，激发创造
  • AutoWS: 文本分类自动化弱监督框架

    提出了 AutoWS 框架用于增加弱监督过程的效率，减少对领域专家的依赖性，使用少量标记的实例和自动创建标注函数的方法来指定嘈杂标签，然后通过一个下游歧别分类器将其聚合成概率标签。

    Feb, 2023

  • 弱监督下可扩展的银行交易分类

    该研究使用弱监督、自然语言处理和深度神经网络技术对银行交易进行分类，建立了一个高效可扩展的数据处理管道，展示出比现有市场领先解决方案更有效的分类性能，并能快速扩展到新的使用案例，从而提高了金融健康报告和信用风险评估等金融应用的可用性。

    May, 2023

  • 自迁移学习用于全弱监督目标定位

    本文主要研究深度学习在对象定位领域中的应用以及如何借助弱监督学习方法实现对象定位，特别关注了在医学图像分析中如何利用 self-transfer learning 方法来解决没有预先训练模型的情况。

    Feb, 2016

  • 通过自动弱监督分类非结构化临床笔记

    该研究介绍了一种利用机器学习和文本分类方法来自动识别医疗记录中的疾病编码 (ICD) 的框架，而不需要使用任何人工标记文档。

    Jun, 2022

  • 探究医患对话摘要的稳健性：跨领域 SOAP 笔记分析

    研究考察了最先进的医患对话生成摘要模型在域外数据上的表现，将医患对话摘要模型分为两种配置，一种是通用模型，另一种是以 SOAP 部分生成摘要的模型。研究分析了基于微调语言模型和 GPT 的方法在两种配置上的局限性和优势，以及通过语言查询和词计数分析比较不同数据集中 SOAP 注释。结果显示，不同数据集中的参考注释之间存在很强的相关性，表明格式不匹配并非域外数据性能下降的主要原因。最后，还进行了 SOAP 注释的详细分析，以揭示模型引入的信息缺失和产生幻觉的性质。

    Jun, 2024

  • 从有缺陷的数据中学习：弱监督的自动语音识别

    使用 Omni-temporal Classification（OTC）训练自动语音识别（ASR）模型，可以有效地学习语音文本对齐并适应训练文本中的错误，从而避免在包含高达 70% 错误的文本情况下出现性能下降，与 CTC 模型完全失败的情况不同。

    Sep, 2023

  • 弱监督自训练

    本文提出一种基于弱监督、自训练、规则注意力网络和半监督学习的框架（ASTRA），利用所有可用数据来进行深度学习任务的训练，证明其在文本分类上有显著优势。

    Apr, 2021

  • 跨数据集弱监督仇恨言论分类

    本篇论文提出了一种基于极弱监督策略的方法以解决仅存在于部分数据集的种族主义言辞（HS）的识别问题，并探究了 HS 分类模型泛化能力不佳的原因。

    May, 2023

  • 基于自监督的在线对抗性净化

    该论文介绍了一种新的防御策略，称为自监督在线对抗净化（SOAP），它结合了监督学习与自监督表示学习，并使用自监督损失在测试时净化对抗性样本，以提高深度神经网络的鲁棒性。该方法利用自监督信号的标签无关性来抵抗对抗扰动，并在训练复杂度较低的情况下具有与目前最先进的对抗训练和净化方法相竞争的鲁棒性能。

    Jan, 2021

  • AX-MABSA：一种用于极弱监督的多标签基于方面的情感分析框架

    本文提出了一种极弱监督的多标签方面类别情感分析框架，并提出了一种自动词语选择技术来选择这些种子类别和情感词，利用无监督语言模型后训练来提高性能，在四个基准数据集上的实验证明了该方法显著优于其他弱监督基线。

    Nov, 2022