使用大型语言模型的法语文本难度评估与简化
该研究针对多元文本语料库构建了法语文本的复杂度测量方法,采用多种度量指标和不同机器学习算法探索了法语文本的复杂性特征,研究结果表明该方法可有效测量法语文本的复杂度。
Aug, 2022
本文提出了一种通过在德国简单语言语料库上微调语言模型并将其作为序列到序列简化任务的解码器来克服数据稀缺性问题的两步方法,结果表明,在不同于英语的语言上进行无对齐预训练可以降低所需的平行数据量,同时提高下游任务的性能。
May, 2023
该研究介绍了MultiSim基准,这是一个包含27种语言的12种不同语言资源的集合,其中包含超过170万个复杂-简单句对,使用预训练的多语言语言模型进行的实验表明具有激动人心的性能提升,证实了跨语言的可行性。
May, 2023
我们通过两个以复杂句和复杂词为重点的语料库,对西班牙语文本简化(TS)在生产系统中进行评估。我们将最流行的西班牙语特定可读性评分与神经网络进行比较,并表明后者在预测用户对TS的偏好方面始终更好。作为分析的一部分,我们发现多语言模型在相同任务上表现不及相应的仅限西班牙语模型,然而所有模型都过于频繁地关注无关的统计特征,如句子长度。我们通过在评估中发布我们的语料库,希望推动西班牙语自然语言处理的最新技术发展。
Aug, 2023
使用大型语言模型帮助学习者提高外语熟练度,通过识别与学习者在外语领域的熟练程度密切相关且学习者感兴趣的主题内容。该解决方案的独特之处在于:a) 发现学习者关心的主题内容,增加学习的动力;b) 对内容的语言难度进行更精确的估计,优于传统的可读性度量;c) 提供文本和视频内容,其中视频内容的语言复杂性来自视频字幕。这项技术的愿景是根据学习者不断变化的兴趣和学习目标,持续调整内容的主题和难度,使学习者保持参与外语学习的状态。
Sep, 2023
我们提出了一个简单的方法LC-Score,用于训练法语文本的阅读理解指标,通过预测给定文本的易读性来定量捕捉文本与清晰语言指南的契合程度。我们探索了两种方法:使用语言学动机指标训练统计模型,以及从文本中直接利用预训练语言模型进行神经学习。我们通过两个人工注释实验评估了我们的模型,发现两种方法(基于指标和神经)优于常用的可读性和理解度量,如FKGL和SAMSA。
Oct, 2023
本研究首次使用合成数据来训练德语文档级文本简化的生成模型,通过真实世界在线文本论证了我们方法的有效性。解决语言简化中数据稀缺的挑战,我们爬取了经过专业简化的德语文本并使用GPT-4合成了一个语料库。我们在这些数据上微调了多达130亿参数的大型语言模型,并使用多种方法对其性能进行评估。该论文运用了各种评估方法,并展示了当前使用的基于规则的度量指标的局限性。自动和手动评估均表明,我们的模型可以显著简化真实世界的在线文本,显示了合成数据在改进文本简化方面的潜力。
Feb, 2024
大型语言模型可以在研究欠资源语言中通过数据到文本生成来弥补性能差距,但人工评估表明BLEU分数相比于英语有所下降,对于评估非任务特定系统其适用性存疑。
Feb, 2024