Nov, 2020

CODER: 融合知识的跨语言医学术语嵌入用于术语规范化

PDF
TL;DR该研究提出了 CODER：针对跨语言医学术语表现的知识图谱对比学习。CODER 通过对 Unified Medical Language System 进行对比学习进行训练，通过利用词条和关系三元组之间的相似性将医学知识注入到嵌入中，并旨在提供潜在的更好的机器学习特性，评估结果表明 CODER 在零样本术语归一化，语义相似性和关系分类基准方面优于各种最先进的生物医学词嵌入，概念嵌入和上下文嵌入。
发现论文，激发创造
  • 学习细粒度术语表示的自动生物医学术语聚类

    CODER++ 使用动态难样本在对比学习中提供细粒度的表示，从而在生物医学术语聚类方面取得更好的效果，应用于 BIOS 的生物医学概念聚类中。

    Apr, 2022

  • CODER: 通过上下文文档嵌入重新排序的有效优化框架

    通过引入 Contextual Document Embedding Reranking (CODER)，可以显著提高基于对比学习的密集检索模型的检索性能，特别是当更多的相关信息可用时，如在 TripClick 集合中观察到的情况下，可以获得大幅度的改进并取得新的最优结果。

    Dec, 2021

  • V-Coder: 知识图谱语义披露的自适应自编码器

    本文介绍了在知识图谱中关系消歧的问题，详细介绍了一种名为 V-Coder 的新型可适应自编码器，它能够识别连接不同领域实体的本质关系，从而改善链接预测的语义披露问题。

    Jul, 2022

  • 生物医学知识图谱嵌入的基准与最佳实践

    利用知识图谱嵌入学习方法，探索在 SNOMED-CT 知识图谱中学习生物医学知识表征的能力，提供性能测试及最佳实践，并强调利用知识图谱多关系特性学习知识表征的重要性。

    Jun, 2020

  • 自监督对比学习：基于语义保持转换实现代码检索和摘要

    Corder 是一种自监督对比学习框架，用于源代码模型，通过使用一组语义保持变换操作来生成在语法上具有多样性但在语义上是等效的代码片段，从而能够在没有标记数据的情况下进行代码检索和代码摘要。

    Sep, 2020

  • 使用 CodeSearchNet 语料库学习深度语义模型进行代码搜索

    本文提出了一种新颖的深度语义模型，利用多模式来源和特征提取器的效用，将交叉语言嵌入与大批量和难样例挖掘结合起来，结合不同的学习表示来增强表示学习，以解决语义代码搜索任务，该模型在 CodeSearchNet 语料库上训练并在保留数据上评估，取得了 0.384 NDCG 的优异成绩，并在该基准测试中获得第一名。

    Jan, 2022

  • 利用图神经网络嵌入临床代码和文本的多视图联合学习框架

    本文提出了一种多视图学习框架，结合 ICD 代码和文本以提高临床机器学习应用的性能，采用图神经网络（GNN）和 Bi-LSTM 处理输入信息，并应用深度典型相关分析（DCCA）来强制实现两个视图的相似表示。实验结果表明，本方法在临床和多样文本应用中都具有良好的性能。

    Jan, 2023

  • 利用跨模态邻居表示改进 CLIP 分类

    通过自动生成高质量多样文本，利用 CrOss-moDal nEighbor Representation (CODER) 对 CLIP 进行特征提取，提高 CLIP 在单模态特征提取上的性能，进而充分发挥其强大的跨模态匹配能力。

    Apr, 2024

  • CODER: 用于图像 - 文本检索的耦合多样性感知动量对比学习

    本文提出了一种基于对比学习的新型跨模态表征方法 Coupled Diversity-Sensitive Momentum Constrastive Learning（CODER），通过引入动态字典和适应性负对权重，使用实例级嵌入和概念级描述符提高跨模态表征，经过对 MSCOCO 和 Flicker30K 数据集的大量实验，CODER 明显优于当前基准方法。

    Aug, 2022

  • ClinLinker：西班牙语临床概念提及的医学实体链接

    这项研究通过使用一种新颖的双阶段流程来实现医学实体链接，该流程利用领域内适应的语言模型进行生物医学文本挖掘，从而显著提升了临床文本分析的性能。该方法在西班牙语内容的初期侧重下，在涉及异构医学术语并在原始数据子集上进行训练的复杂场景中，显著优于为同一目的设计的多语言语言模型。通过在两个不同的临床实体链接 Gold Standard 语料库（DisTEMIST（疾病）和 MedProcNER（临床程序））上进行评估，我们的结果表明，该方法在 25 个 Top-k 准确度和其他 Top-k 指标上的性能优于前期基准，DisTEMIST 上提高了 40 个点，MedProcNER 上提高了 43 个点，两者均归一化到 SNOMED-CT 代码。这些发现突显了我们的方法在处理语言特定细微差别方面的能力，并树立了一个新的实体链接基准，为提高数字医疗记录的实用性提供了一种强大工具。该系统的结果具有实际价值，既可以用于从临床记录中自动产生大规模结构化数据，也可用于全面提取和协调预定义的临床变量。

    Apr, 2024