使用超级平行语料库，我们提出了一种分析低资源语言的分析方法SuperPivot，该方法在对语态的跨语言分析中表现良好，并对1000多种语言进行了分析

Apr, 2017

本文探讨了现代语言模型中是否包含通过所谓的探针恢复的语言知识的持续争论，并研究了语言知识是否是现代语言模型良好性能的必要条件，提出了信息论框架，旨在将语言建模目标与语言信息相关联，并强化了成果通过对合成和实际NLP任务的各种实验。

Mar, 2021

该论文介绍了一种生成用于混合语言的数据集 HinGE，旨在解决在多语言混合文本和语音中对生成文本进行评估的不足，并证明常用的评估度量标准在混合文本数据上的无效性。该数据集有助于混合语言的自然语言生成研究的进展。

Jul, 2021

本文提出了一种扩展 UniMorph 注释的策略，通过引入分层特征结构解决多重人称协议等语言中的复杂情况。作者将其应用于格鲁吉亚语，并提供了人工验证的其准确性和平衡性。实验表明，这种扩展能显著提高 UniMorph 数据集的涵盖率和可解释性。

Mar, 2022

本工作探索了重复生成，并提出了一种加权标签平滑方法和一种重复评分方法来输出更合适的重复，并在T5语言模型上进行了评估，实验结果表明我们的方法在自动和人工评估中均优于基线。

Jul, 2022

本研究探讨了数据增强策略StemCorrupt的理论方面，揭示其底层数据分布的内在组合结构，并研究了StemCorrupt的数据效率和语言类型学特征对增强策略的影响。实验结果表明，选择高多样性和高预测不确定性的数据点可以显著提高StemCorrupt的数据效率，但对于包含非级联属性的语言，如形态变化，会引入音韵规则违反而降低表现。

May, 2023

我们通过数据角度的初步研究发现，训练数据中重复出现的词语与文本退化问题之间存在强烈的相关性，通过有选择地消除训练数据中重复词语的注意力，可以显著减少退化现象，并且惩罚训练数据中的重复部分是解决退化问题的一个普遍而基本的因素。

Oct, 2023

消除话语中填充词、重复和修正等不流畅元素的过程是后处理自动语音识别（ASR）输出、在下游语言理解任务之前的关键步骤。我们提供了一个高质量的人工标注的多语言不流畅纠正语料库，涵盖了四种重要的印欧语言：英语、印地语、德语和法语。在四种语言的全面结果分析中，我们获得了97.55（英语）、94.29（印地语）、95.89（德语）和92.97（法语）的F1得分。为了证明不流畅纠正对下游任务的益处，我们展示了与最先进的机器翻译（MT）系统结合使用时BLEU得分平均提高了5.65个点。我们在此处发布了运行实验的代码和我们的注释数据集。

Oct, 2023

通过创建人工标注的重复的样板代码与合理语言内容之间的基准测试，以及评估CRED（字符冗余）得分的有效性，为改进过滤方法提供资源，推动低资源语言的清洁语言建模语料库的发展。

Nov, 2023

非毛利族新西兰人（NMS）在对毛利语的词汇分割方面与母语者表现高度相似，这种能力假设是通过识别和提取统计重复形式而获得的。我们通过比较NMS的分割结果与Morfessor的结果（一种基于统计重复的无监督机器学习模型）来验证这一假设，结果表明NMS在形态学过程中成功分割了通过合并过程（如复合词和无音位词缀）形成的词汇，同时他们的学习过程对于通过模板和其他形态学结构线索形成的词汇也敏感，说明NMS的学习过程不仅仅依赖于统计重复。

Mar, 2024