Feb, 2024

检索解释：基于证据的语言模型预测

PDF
TL;DR通过使用 Shapley 值以识别证据在最终预测中的相对重要性，Retrieve to Explain（R2E）能够根据文件语料库中的证据，优先考虑对研究问题的一组预先定义的可能答案，从而解决了机器学习模型特别是语言模型在解释性上的困难，并在从科学文献中识别药物靶标这一实用案例上展现了其优越性。
machine learning modelslanguage modelsintrospectionretrieve to explaindrug target identification
发现论文，激发创造
  • 基于知识的自我合理化：通过抽取和自然语言解释

    介绍了一种自我合理化的框架 RExC，旨在提供两种互补类型的解释（NLE 和提取合理），并将其与背景知识结合起来，从而达到了任务最新水平的性能，并大幅度领先于现有模型，同时进行干扰分析表明，解释与预测之间存在高度的关联性。

    Jun, 2021

  • 检索重构：大规模语言模型推理

    本文提出了一种名为 'rethinking with retrieval' (RR) 的后置处理方法，借助 'chain-of-thought' (CoT) 提示中的分解推理步骤检索相关的外部知识，从而改善大语言模型在常识推理、时间推理和表格推理等方面的性能。

    Dec, 2022

  • REFER: 解释规范化的端到端关键抽取框架

    我们提出了一种名为 REFER 的框架，利用可微分的 rationale extractor 来通过在训练过程中使用人工标注的重点提取训练任务模型和 rationale extractor，从而在忠实度、可信度和下游任务准确率方面显著提升性能。

    Oct, 2023

  • 可编辑外部知识的语言建模

    当文本随着世界的改变而改变时，我们如何构建能够轻松更新以反映这些变化的语言模型？本论文引入了 ERASE，通过逐步删除或重写知识库中的其他条目来改进模型在添加新文档时的表现，从而提高了模型在回答有关一系列新闻文章或对话的问题时的准确性。

    Jun, 2024

  • 揭示以修正：一种可解释的 AI 生命周期，用于深度模型的迭代偏差校正

    提出了一个名为 Reveal to Revise（R2R）的框架，通过整个可解释人工智能（XAI）生命周期，使从业人员能够迭代地识别、减轻并重新评估模型的表现，从而解决模型中学习的伪相关性对高风险决策（如皮肤癌检测）的风险。

    Mar, 2023

  • 语言模型中的多跳问题回答的检索增强知识编辑

    用于多跳问题回答的检索增强模型编辑框架（RAE）利用相互信息最大化的检索方法和修剪策略来提供精确的答案和更新的知识。

    Mar, 2024

  • 计划和编辑检索结果以提高工具学习

    通过引入一种新的模型名为 “Plan-and-Retrieve (P&R)” 和 “Edit-and-Ground (E&G)” 的方法，本文提出了一种集成外部工具与大型语言模型的新方法，显著提高了工具检索任务的召回率和 NDCG，并超越了当前最先进的模型。

    Mar, 2024

  • 解释、预测，再次预测

    本文介绍了一种名为 ExPred 的新方法，采用多任务学习的方法，在任务输入的解释生成阶段有效地平衡了解释和预测的损失，并使用另一个预测网络来优化任务性能。在三个不同的语言数据集上进行了广泛的评估，发现我们明显优于现有方法。

    Jan, 2021

  • 评估检索增强型大型语言模型在科学文件推理中的有效性

    本研究通过关键字检索对多种大型语言模型进行评估，发现这些模型在科学文档推理任务中会使用编造的证据来支持预测，利用科学语料库进行预训练无法减轻证据捏造的风险。

    Nov, 2023

  • 提升检索增强语言模型对无关背景的鲁棒性

    使用检索增强语言模型 (Retrieval-augmented language models, RALMs) 在处理特定应用场景问题时，检索到的信息能够提高模型的性能，并且不会损害性能。该研究分析了五个开放领域问答基准，并提出了两种方法以减轻性能下降问题。

    Oct, 2023