Nov, 2022

校准解释：语义解析中的置信度估计

PDF
TL;DR研究了三种模型族的六种语义分析模型在两个英文语义分析数据集上的校准特征。基于三个模型的置信分数，提出并发布了两个数据集的新挑战分割。通过模拟注释器交互实验，证明了使用模型置信度可以帮助平衡专注任务的语义分析模型在可用性和安全性之间的权衡。提出了一个平衡了可用性和安全性的 DidYouMean 系统，并呼吁将校准包括在语义分析系统的评估中，并发布了一个计算校准度量的库。
发现论文，激发创造
  • 语义解析中的置信度权衡

    本文研究定制模型如何通过使用置信度得分，在任务导向的解析中权衡成本与标注者的负担，压缩不正确的低置信程序的执行数量，以优化可用性与安全性之间的权衡，并提出了 DidYouMean 系统来更好地平衡可用性与安全性。

    Mar, 2023

  • 神经语义分析的置信度建模

    本研究致力于神经语义分析器的置信度建模，设计了各种度量标准来估计置信分数和确定哪些输入因素会导致不确定的预测，结论表明我们的模型显著优于传统方法并且提高了模型解释的质量。

    May, 2018

  • 语义分割模型的校准：分析与算法

    研究了语义分割校准的问题，提出了一种简单而有效的选择性缩放方法来校准模型，实验结果表明其在多个基准测试中具有卓越的性能。

    Dec, 2022

  • 基于激光雷达的语义分割中不确定性估计的校准

    我们提出了一种测量语义分割模型对各个类别的置信度校准质量的度量标准，并使用该标准评估不平衡类别的不确定性估计方法的置信度校准情况。此外，我们还建议该方法可以自动发现标签问题，改善手工或自动注释数据集的质量。

    Aug, 2023

  • 重新审视校准：问答的案例

    该研究旨在提出一种更好的置信度校准指标 —MacroCE，该指标能更好地捕捉模型给出正确预测时高信心和给出错误预测时低信心的情况，并针对开放领域问答的实际应用，提出了新的校准方法 ConsCal，该方法不仅考虑模型的最终预测，还考虑了多个模型检查点的一致性预测，提供了一种全新的校准视角、新的指标以及根据指标提出了更加有效的校准方法。

    May, 2022

  • 校准解释

    本文研究了不确定性和可解释性之间的联系，特别是探讨了置信度和解释性之间的关系，发现模型的置信度与我们解释模型的能力有交互作用，并提出了一种简单的实践方法来改善解释结果：调整置信度以提高解释效果。

    Jul, 2022

  • LLMs 的置信度评分多重校准

    通过使用 “多校准” 技术，本文提出为大型语言模型生成可解释和可靠的置信度分数。通过在各种数据交叉组合上同时校准，可以显著提高校准和准确性。

    Apr, 2024

  • 自然语言处理中的结构化输出预测器校准

    本研究提出了一种用于神经网络模型的预测校准方案，特别是针对命名实体识别、词性标注和问题回答等应用，该方案可以提高模型预测结果的置信度和性能，在领域外测试场景中也表现出卓越的性能。

    Apr, 2020

  • 语言模型置信度评估与校准调查

    评估语言模型预测的可靠性和置信度以及解决其与 AI 安全需求的关系是一项重要研究领域，本文综述了语言模型置信度估计和校准的方法、技术和挑战，并提出了未来研究的方向。

    Nov, 2023

  • 用样本一致性校准大型语言模型

    通过从多个随机抽样的模型生成的分布中导出确定度來提高大型语言模型 (LLM) 预测的准确度。在多个开放和闭源模型上进行广泛评估，结果表明基于一致性的校准方法优于现有的事后方法，并提供了选择适用于不同 LLMs 特性的合适一致性度量标准的实用指南。

    Feb, 2024