lexical diversity | BriefGPT

关键词lexical diversity

搜索结果 - 19

RoBERTa-BiLSTM：一种用于情感分析的上下文感知混合模型
通过结合 RoBERTa 和 BiLSTM 网络的 RoBERTa-BiLSTM 混合深度学习模型，在情感分析中实现更好的性能。
PDFa month ago
基于 LLM 的文本增强中多样性激励对样本多样性和下游模型性能的影响
最新的生成型大规模语言模型（LLM）被应用于数据增强任务，在这些任务中使用少量文本样本进行 LLM 重述，然后用于模型的微调。本研究调查了三种在众包中广泛使用的文本多样性激励方法：禁忌词、先前异常解决方案的提示和先前异常解决方案的链接，并使
PDF6 months ago
NusaWrites：为代表性和极度资源匮乏的语言构建高质量语料库
对印尼本土语言进行案例研究的结果表明，原生说话者通过段落撰写所生成的数据集在词汇多样性和文化内容方面优质，有助于推广自然语言处理技术到较少研究的语言领域。
PDF9 months ago
文本中的词汇多样性测量：双倍长度问题
文本长度对词汇多样性的估计产生了一个世纪以来科学界的关注，虽然已提出许多指标和进行了许多研究来评估它们，但问题仍然存在。本方法论综述不仅对语言学习研究中最常用的指标进行了批判性分析，而且对于长度问题本身以及评估所提出解决方案的方法也进行了分
PDFa year ago
ACLDarkBERT: 互联网黑暗面的语言模型
本文介绍了一个在暗网数据上预训练的语言模型 DarkBERT，并通过与其他常用模型的比较表明使用特定于暗网的语言模型在各种用例中具有较好的性能，因此这种模型有望成为未来暗网研究的有价值的资源。
PDFa year ago
将关键词提取和词汇多样性相结合以表征出版物标题中的思想
本文研究了利用不同短语检测模型检测科学论文的标题从而找出涵盖科研进展的关键词组，目的在于优化文献词汇多样性的度量与自动化剔除非特定短语。研究结果比较了多个短语检测模型的性能，并分析了每个模型生成的关键词组，使用四个常用的词汇多样性指标计算了
PDF2 years ago
低资源机器翻译中的后向翻译多样性探究
本研究提出比以往更细致的 “多样性” 框架，将其分为词汇和句法多样性，并针对低资源和中资源机器翻译任务，提出创新的度量标准用于衡量这些不同方面的多样性。实证分析表明，使用核采样生成反向翻译能够提高最终模型性能，并且这种生成方法具有很高的词汇
PDF2 years ago
ACLParaCotta: 来自最具多样性的翻译样本对的合成多语言释义语料库
使用神经机器翻译系统，通过 beam search 生成多个候选翻译样本，选择词汇最多样化的一对生成句式相似，语义丰富、跨 17 种语言的人工合成平行释义语料库，并用 BLEU 对比了其与 ParaBank2，结果表明其生成的句子语义类似而
PDF2 years ago
运用语言类型学丰富多语言词汇表：以亲属关系中的词汇空缺为例
该论文描述了一种基于词汇类型学知识来增强词汇资源与语言多样性相关内容的方法，通过半自动化的系统方法来推断词汇差距，从而建立一个包含 198 个领域概念、1911 个单词和 37370 个差距的词汇语义资源，该资源涵盖了 699 种语言，并说
PDF2 years ago
AAAI面向频率的对比学习在神经机器翻译中的应用
本文提出一种基于词频感知的令牌级对比学习方法，旨在从表示学习角度解决现代神经机器翻译系统中低频词预测的挑战。经实验证明，所提出的方法不仅可以显著提高翻译质量，还可以增加词汇多样性并优化词表示空间。与相关的自适应训练策略相比，该方法在不牺牲精
PDF3 years ago
EMNLPPhrase-BERT：基于 BERT 的短语嵌入改进及应用于语料库探索
本文提出了一种对 BERT 进行微调的方法（Phrase-BERT），使其能够生成更强大的短语嵌入，Phrase-BERT 利用一个由短语描述形式多样的同义词集以及从 Books3 语料库中挖掘的大规模情境短语数据集生成模型，并在各种短语级
PDF3 years ago
ACL基于双语互信息的自适应神经机器翻译训练
本文提出了一种新的双语互信息（BMI）自适应目标函数，通过从双语视角度量每个目标单词的学习难度并相应地分配自适应权重来改进基于令牌级别的自适应训练，实验结果表明与变压器基线和以前的令牌级别自适应训练方法相比，本方法优越性明显，并能够改善词汇
PDF3 years ago
ACL一种用于语言建模的认知正则化器
使用正则化编码的 UID 假设可以作为一种归纳偏差，用于训练语言模型，这在十种涵盖了五种语言家族的语言模型实验中体现出来，使用 UID 正则化一致地提高了语言模型的困惑度，特别是在数据量有限的情况下。此外，我们发现，UID 正则化的语言模型
PDF3 years ago
使用 AutoSAS 进行评分 —— 一种用于短答案评分的自动化系统
本文介绍了一个名为 AutoSAS 的快速、可扩展和准确的自动短回答评分系统，该系统使用诸如词汇多样性、Word2Vec、提示和内容重叠等功能来实现其性能，并通过使用 Automated Student Assessment Prize 短
PDF4 years ago
EMNLPSMRT Chatbots：利用模拟多重参考训练改进非任务导向式对话
应用模拟多参考训练方法（SMRT），使用改写工具模拟多个响应以提高对话模型的质量和语言多样性。结果表明，SMRT 对人类和自动质量评分以及语言多样性均有所改善，相较于预训练，在人工评估质量方面相当，但在自动质量和语言多样性方面领先，并且无需
PDF4 years ago
将改写生成视为零样本多语言翻译：将语义相似性从词汇和句法多样性中分离开来
通过引入简单的改进算法，不鼓励生成输入中已有的 N-grams，利用多语言神经机器翻译模型生成同义句，控制输入和输出之间的词汇多样性，人工评估表明，该方法比基于 ParaBank 2 的同义句生成器更好地维护意义和语法正确性，并且在两种非英
PDF4 years ago
EMNLP深度强化学习结合分布式语义奖励的抽象摘要生成
本研究论文使用分布式语义学方法，提出了一种新的奖励制度 DSR (Distributional Semantics Reward)，用于评估候选摘要的性能，与传统的奖励模式相比，DSR 可以更准确地捕捉自然语言的词汇和构成多样性。
PDF5 years ago
MM翻译迷失：机器翻译中语言丰富性的流失和衰退
本研究基于实证数据分析了机器翻译与人为翻译之间的词汇丰富性损失，结果表明当前机器翻译系统在保留人类语言文本的词汇多样性方面尚有不足，而其倾向于加剧常见模式并忽视不常见模式的特点，可能会加重针对性别的偏见等问题，并可能导致算法本身的偏见问题。
PDF5 years ago
评判评判者：针对在线评论生成的神经语言模型的大规模评估研究
本文研究自然语言生成的评估方法，并通过自动化评估和人工评估的比较，发现词汇重叠是自然语言生成的较好评估指标，而人工评估与自动化评估在排名上存在较大差异，因此呼吁重新考虑自然语言生成的评估目标。
PDF5 years ago