EMNLPDec, 2022

基于中间实体的稀疏可解释表示学习

PDF
TL;DR本文介绍的 Intermediate enTity-based Sparse Interpretable Representation Learning (ItsIRL) 方法在生物医学任务中表现优异，同时维护了 “可解释性” 和支持模型调试的能力，并探索了 “反事实” 精细实体类型操纵的能力以及构造基于实体类型的类原型以揭示模型学习的类别的全局语义特征。
interpretable entity representationssparse embeddingsintermediate entity-based sparse interpretable representation learningbiomedical taskscounterfactual fine-grained entity type manipulation
发现论文，激发创造
  • 生物医学可解释实体表示

    本文介绍一种利用医学本体论和 Wikipedia 词条链接构建的生物医学可解释实体表示（BIER），包含了能显著提高生物医学任务表现的细粒度实体类型，并提供了一种新颖技术，用于调试模型和实体类型。

    Jun, 2021

  • IERL: 可解释的集成表示学习 —— 结合众包知识和分布式语义表示

    研究通过使用知识图谱来优化大型语言模型的性能，并提出了一种能够解释的集成学习方法 (IERL)，在 General Language Understanding Evaluation (GLUE) 任务中表现良好。

    Jun, 2023

  • 学习和评估稀疏可解释的句子嵌入

    本文通过引入稀疏表示的思想将 word embeddings 应用到 sentence embeddings 中，基于主题连贯性方法引入了一种新的、定量的自动化评估指标，并在电影对话数据集和 MS COCO 数据集的场景描述上观察到了 interpretability 的提高。

    Sep, 2018

  • 通过大规模打标实现可解释的实体表示

    本研究提出了一种利用细粒度实体类型推断模型生成具备人类可读性，且能够直接用于实体相关任务的实体表示向量的方法，并针对特定领域实体优化表征，通过少量规则增加领域知识以提高性能。

    Apr, 2020

  • CEIR：基于概念的可解释图像表示学习

    利用概念为基础的可解释图像表示（CEIR）方法，结合自监督学习和变分自编码器（VAE），通过投影输入图像到概念向量空间并学习潜在表示，实现高质量的无监督聚类以及从开放世界图像中提取相关概念的能力。

    Dec, 2023

  • SPINE: 稀疏可解释神经嵌入

    通过新颖的去噪 k 稀疏自编码器的变种，我们生成了高效且可解释的词向量，并在大规模人类评估中表现出比 GloVe 和 word2vec 更好的可解释性和性能。

    Nov, 2017

  • 可解释的具有稀疏自表示的神经嵌入

    通过将数据自表示与浅层神经网络相关联，提出了一种新颖的方法来学习表达性和可解释性更高的词嵌入，并在下游任务中表现出竞争性和性能更好的结果。

    Jun, 2023

  • 基于实例学习的跨度表示：以命名实体识别为例的案例研究

    通过实证分析命名实体识别，我们展示了一种能够在不牺牲性能的前提下开发具有高可解释性的模型，其具有可解释的推理过程并学习了跨度之间的相似性的基于实例的学习方法。

    Apr, 2020

  • 具有全局可解释性的轻度监督表示学习

    本文提出一种基于表征学习的轻度监督信息提取方法，通过学习自定义的嵌入表示，将传统自举方法与鲁棒性强的表征学习结合起来，实现了对多词实体分类和匹配模式的有效提取和解释，该方法优于三种现有方法，并能输出全局解释性模型。

    May, 2018

  • 可微规则学习中知识图谱中的逻辑实体表示

    该研究利用逻辑实体表示（LERP）来将实体的上下文信息编码到知识图谱中，然后将其与概率逻辑规则学习相结合，从而学习出更具表现力的规则，提高知识图谱的补全能力。实证结果表明，LERP 可提高规则表达的能力，并达到了甚至优于黑盒模型的水平，并且 LERP 可以与诸如 TransE 等嵌入学习方法相结合，使其更具可解释性。

    May, 2023