通过改进训练方法、注意机制和解码策略，我们提出了解决文档级神经机器翻译中长度偏差问题的方法，实验证明我们的方法在多个开放数据集上都取得了显著的改进，并且进一步分析显示我们的方法能够明显减轻长度偏差问题。

Nov, 2023

通过对文档长度的语义信号进行研究，本文提出了一种简单且通用的文档表示学习框架 LA (SER)$^{3}$，实现了在标准信息检索基准上的最先进的无监督性能。

Oct, 2023

通过引入新的实验框架，我们可以在保持所有其他方面不变的情况下，平稳地改变任务约束性，发现重复使用和长度偏差与任务约束性相关，而这些问题只是影响整个分布的模式，并且很难归因于分布熵的变化。

Oct, 2022

最近，使用大型语言模型（LLM）进行偏好评估已被广泛采用来比较模型回答的优劣。然而，观察到一种严重偏向较长回答的偏差，引发了对这种评估方法可靠性的关注。通过一系列实验，我们设计了这项工作，研究了 LLM-based 偏好评估指标的主要影响因素，即胜率，并得出结论：胜率受到模型回答的两个方面的影响：可取性和信息量，其中前者与长度无关且与可信度相关，而后者与长度相关且可以用条件熵表示。我们发现，长度通过影响信息量而影响现有的评估。然而，一个可靠的评估指标不仅应评估内容质量，还应确保评估不会受到回答长度等外部因素的干扰。因此，我们提出了一种简单而有效的调整方法 AdapAlpaca，用于现有的胜率测量实践。具体而言，通过调整参考答案的长度以与测试模型的答案在相同区间内相匹配，我们可以消除信息量相对长度的偏差，确保公平的模型评估。

Jul, 2024

本文研究神经机器翻译中的两个问题：beam search 算法不适用于 NMT 问题，翻译结果过短。作者认为这些问题因标签偏置而产生，提出了一种通过感知机算法对一个简单的逐字奖励进行调整的解决方案来解决这一问题。

Aug, 2018

本文提出一种文档匹配方法以测量文本相似度，通过将文本在隐藏主题的公共空间中进行比较来弥补长度不可比的文档对之间的词汇、语境和抽象差距，并通过两个匹配任务评估匹配算法并发现它始终广泛优于强基线，揭示了将领域知识纳入文本匹配的好处。

Mar, 2019

文本长度对词汇多样性的估计产生了一个世纪以来科学界的关注，虽然已提出许多指标和进行了许多研究来评估它们，但问题仍然存在。本方法论综述不仅对语言学习研究中最常用的指标进行了批判性分析，而且对于长度问题本身以及评估所提出解决方案的方法也进行了分析。对三个英语学习者文本数据集的分析表明，通过使用概率或算法方法将所有文本缩短到相同长度的指标解决了长度依赖性的问题；然而，所有这些指标都未解决第二个问题，即敏感性的参数决定缩短文本的长度。论文最后给出了优化词汇多样性分析的建议。

Jul, 2023

该研究探讨了基于 transformer 的语言模型的长度推广能力，发现预训练大语言模型的上下文学习能力与记事本提示相结合能大大改善长度推广，并鉴别了错误的共同来源，为赋予语言模型推广到更长问题的能力提供了新的机会。

Jul, 2022

本文首次解决了神经机器翻译中输出长度的控制问题，并调查了两种解决方法，分别是将输出与目标输入长度比例类相关联和在 Transformer 位置嵌入中加入长度信息。实验结果表明，这两种方法都可以使网络生成更短的翻译，并获得解释性的语言技能。

Oct, 2019

预训练语言模型存在各种社会偏见，本研究旨在对孟加拉语进行内在偏见测量，探讨现有偏见测量方法在孟加拉语中的必要改进，并研究上下文长度变化对偏见测量的影响，通过实验证明偏见度量指标对于上下文长度存在明显依赖性，在孟加拉语偏见分析中需要细致考虑。我们的工作为孟加拉语偏见测量提供了一个基础，我们公开提供所有资源以支持未来的研究。

Jun, 2024