Mar, 2022

可解释的研究复制预测：通过变分上下文一致性句子掩蔽实现

HTML
PDF
TL;DR本文提出了一种可解释的神经文本分类器：利用弱监督方法和 unlabeled 数据集，通过上下文提取关键句子的 Variational Contextual Consistency Sentence Masking（VCCSM）方法，提高了 Research Replication Prediction 中长文献的模型解释性能，并通过 perturbation curve 范围和后续准确性等评估指标证明了其在 RRP 中的实用性。
发现论文，激发创造
  • 自然语言处理的可复现性分析：用多个数据集测试意义

    该论文提出了一种重复性分析框架，用于对NLP任务算法的多个比较进行统计学分析，相对于NLP文献中目前未经统计证明的传统做法具有显著的理论优势，并通过多个应用案例展示了其实证价值。

    Sep, 2017

  • 用于连续句子分类的预训练语言模型

    本文提出一种基于预训练语言模型(BERT)的方法，能够直接利用所有句子中的所有单词的上下文信息进行文档级理解的任务，且在四个数据集中取得了最先进的结果。

    Sep, 2019

  • 学习变分词掩模以提高神经文本分类器的可解释性

    本文提出了一种用于自动学习任务特定重要单词和减少非相关信息的变分词掩码方法，以改善模型预测的可解释性，并在七个基准文本分类数据集上评估了其有效性，证明了VMASK在提高模型预测准确性和可解释性方面的有效性。

    Oct, 2020

  • 模型无关NLP可解释性中解释的粒度

    通过对复杂的基于BERT的分类器使用基于段落的方法，本文改进了当前基于单词采样的黑盒NLP可解释性方法的局限性，大大提高了基准分类任务的解释保真度。

    Dec, 2020

  • NLP模型的灵活实例特定的理解

    本文研究了自然语言处理中的模型可解释性，提出了一种基于输入擦除的灵活的特征评分和解释方法，与传统方法相比，可以更准确地为每个数据实例选择最优的特征评分方法、解释长度和类型，以提供更准确、全面和充足的解释。

    Apr, 2021

  • 基于字符串的方法推动生物医学句子相似度技术发展：可重复的实验研究

    本文介绍了一个基于单一软件平台的最大的、可再现的生物医学句子相似度实验，目的是解决当前方法无法评估的可重复性问题，评估多种未被探索过的句子相似度方法和一个未被探索的基准，评估预处理阶段和命名实体识别工具对性能的影响，并提出了一个新的字符聚合句子相似度方法 LiBlock 及其变种，实验证明 LiBlock 方法在除一个本体论方法外显著优于所有其他方法，预处理阶段和命名实体识别工具对句子相似性方法的性能有重要影响，提出了当前方法的一些不足和局限性，并警告需要改进当前基准的必要性。

    May, 2022

  • 自然语言处理中的模型解释研究综述

    本综述通过对忠实度的镜头，回顾了超过110种自然语言处理中的模型解释方法。我们考虑了忠实度的定义和评估，以及它对可解释性的重要性，并将现有方法分为五类。最后，我们总结了它们的共同优点和未解决的挑战，并反思了未来的研究方向。

    Sep, 2022

  • 构建词-上下文耦合的空间，搭配关联知识关系用于可解释性语言建模

    本文提出了一种Word-Context-Coupled空间 (W2CSpace)，通过对不可解释的神经表示与可解释的统计逻辑之间的对齐处理，联接了单词和上下文层面的语义，并通过聚类法设计了一个关联知识网络 (AKN) 作为单词层面语义的可解释统计逻辑，同时采用上下文相关距离作为下游分类器的语义特征，以提高语言模型的可解释性和性能。

    May, 2023

  • DCR-一致性：大规模语言模型的划分-征服-推理的一致性评估和改进

    提出了DCR（一种自动化评估框架）以评估和改善大型语言模型生成的文本一致性，通过使用分而治之的方法，将段落到段落之间的比对转化为句子到段落的比对，并引入了自动度量转换器以翻译结果为可解释的数值分数。该方法在评估一致性方面表现出色，还能显著减少近90%的输出不一致性，并有望有效减少虚假信息。

    Jan, 2024

  • 通过上下文感知基础提高大型语言模型的可靠性：一种系统方法以确保可信性和真实性

    本研究针对大型语言模型（LLM）在自然语言处理中的可靠性和伦理对齐问题，提出了一种新的上下文基础框架。通过明确捕捉与表示相关的情境、文化和伦理上下文，改善模型的表现、公平性和与人类期望的对齐，有望在医疗、法律和社会服务等敏感领域产生重要影响。

    Aug, 2024