Mar, 2022

话语解析中真正重要的变化：估计领域漂移对解析器错误的影响

PDF
TL;DR本文提出了一种用于文本学习在训练分布和测试分布不同的情况下的模型泛化能力的度量方法，并通过大规模经验研究在 6 种不同数据集上验证了该方法的有益性。
discourse analysistext generalizationdomain adaptationclassifiererror-gap
发现论文，激发创造
  • 探索抽取式文本摘要中的领域转移

    本文研究了文本摘要技术中的领域转移问题，提出了将领域的定义从类别扩展到数据源，并探讨了四种不同的学习策略以解决领域转移问题，在新测试中呈现出不同的性能特点。

    Aug, 2019

  • 通过域不变表示估计分布转移下的泛化能力

    本篇论文研究机器学习模型在不同测试分布的情况下表现不佳且过度估计它们的表现的问题，并提出一种基于领域不变性预测模型的方法来更好地估计模型在转移学习领域的性能，从而实现了领域自适应和对给定模型在分布转移情况下进行准确的目标误差估计，并可以用于模型选择、决定早期停机和错误检测。

    Jul, 2020

  • 衡量自然语言处理模型对领域转移的鲁棒性

    本文就自然领域转变设置中，fine-tuned model 和 few-shot learning model 的 domain robustness challenge 进行了研究，并提出 Source Drop (SD) 和 Target Drop (TD) 两种观点进行考虑。我们发现 DR challenge 在 fine-tuned model 和 few-shot learning model 中都存在，但在后者中不太显著。此外，本研究还发现增加 fine-tuned model 的大小可以提高模型的性能，特别是在分类方面。

    May, 2023

  • 探索大型语言模型对代码分析中的分布式转换

    通过研究两个大型语言模型 CodeT5 和 Codex 在代码领域外具有的一般化能力，我们发现多任务学习与少许训练数据的微调相结合的方法能够很好地适应不同域的代码摘要和生成需求。

    Mar, 2023

  • 统计分类器的领域自适应

    通过最大熵分类器和线性链的组合，提出了一种基于条件期望最大化技术的统计方案。实验表明，该方法在自然语言处理领域的四个数据集中，可以提高三个真实世界任务的性能。

    Sep, 2011

  • 机器学习模型在实际中的稳健性、评估与适应性

    通过培训算法来提高对于机器学习领域的可靠性，从而应对领域的变化，提高算法的性能，预测其表现并轻量级适应应用领域。

    Mar, 2023

  • 使用几十个部分注释的示例扩展解析器至远领域

    通过使用神经网络的词表示方法，在与源领域语法相似的情况下，重新审视了领域适应。并提供了一种简单的方法，通过使用少量的部分注释来适应解析器。文章提供的新算法的结果，使华尔街日报测试集的最新单模型状态达到 94.3％，比之前最先进的 92.6％有一个绝对提高了 1.7％。

    May, 2018

  • 模块化域适应

    本文介绍了一种模块化的领域适应过程，强调模型生成者和模型使用者可以独立合作，以便更准确地测量文本特性。通过使用两种轻量级技术，本文在使用线性和上下文嵌入模型的四个多域文本分类数据集上证明了这些技术的可靠性，以提高领域外精度，并提出了对模型生成者和使用者的建议。

    Apr, 2022

  • 主题、领域和语言变化的桥梁：综合离域场景的评估

    在真实世界中，语言模型在超出分布范围的场景中的泛化能力变得更低，基于提示的微调方法在语义差异较大的任务中表现更好，而基于梯度的学习存在结构障碍的偏差问题。

    Sep, 2023

  • 领域自适应的新 PAC-Bayesian 视角

    研究 PAC-Bayesian 领域适应的问题：从源域学习一个专门针对目标域的多数表决模型。通过导出目标风险的上限，我们提供了一个新视角来控制误差度量和投票者不一致之间的权衡。我们根据这个结果推导了一个 PAC-Bayesian 的广义上限，并将其特化到线性分类器。最后，在实际数据上进行了实验。

    Jun, 2015