natural language understanding | BriefGPT

关键词natural language understanding

搜索结果 - 447

LangTopo: 利用分词的拓扑建模将图形的语言描述对齐
该论文介绍了一种新的框架 LangTopo，通过构建代码簿量化了 GNN 和 LLM 的图结构建模能力，并通过一致性最大化的过程将 LLM 的文本描述与 GNN 的拓扑建模对齐，使 LLM 能够学习捕捉图结构的能力，从而能够独立处理图结构化
PDF11 days ago
通过合成生成间接用户请求，使任务导向对话数据集更加自然
利用 LLM-based 技术生成任务导向对话系统中的间接用户请求数据集，用于测试自然语言理解和对话状态跟踪模型在真实场景中的表现。
PDF18 days ago
下一代数据库接口：LLM 基于文本到 SQL 的调查
根据自然语言问题（文本到 SQL）生成准确的 SQL 是一个长期存在的问题，传统的文本到 SQL 系统使用人工工程和深度神经网络，而最近的大型语言模型（LLMs）已经展示出在自然语言理解方面的显著能力，因此，将 LLM-based 实现整合
PDF18 days ago
大型语言模型是否成为数据流水线的新接口？
语言模型是一种广义的术语，它包含了各种类型的模型，旨在理解和生成人类的交流。大型语言模型（LLM）因其具有与人类类似的流畅和连贯性处理文本的能力而引起了人们的广泛关注，这使它们在以管道方式构建的各种数据相关任务中具有价值。LLM 在自然语言
PDF24 days ago
ACL基于标签敏感奖励的增强学习在自然语言理解中的应用
通过引入标签敏感的奖励机制，增强了大规模语言模型在自然语言理解任务中的性能，相比有监督微调模型和基于增强学习的模型，平均性能提升分别为 1.54% 和 0.69%。
PDFa month ago
ICLR通过概率推理实现逻辑一致的语言模型
通过引入基于原则的概率推理训练目标，本研究改进了大型语言模型的逻辑一致性和新知识推理能力。
PDF2 months ago
基于 LLM 的用于文本到图像合成的新闻主题调节
介绍了一种针对新闻标题的抽象性抽象画面生成数据集，通过使用大型语言模型，探索了不同语言模型在抽象标题中识别和理解关键主题的能力，并提出了一种基于主题感知微调和领域微调的方法以改进生成图像质量。旨在促进进一步发展文本到图像合成模型的自然语言理
PDF2 months ago
ACLVLUE：越南自然语言理解的新基准和多任务知识迁移学习
为了评估新的自然语言理解模型在一系列任务上的表现，我们引入了第一个越南语语言理解评估（VLUE）基准，涵盖了五个不同的 NLU 任务，包括文本分类、跨度提取和自然语言理解。我们评估了七个最先进的预训练模型在我们提出的 VLUE 基准上的表现
PDF3 months ago
走向知识驱动的自然语言理解与生成
通过将转换器模型与知识表示相关联，本论文研究了自然语言理解和生成的效果，并回答了以下关键研究问题：(i) 实体知识是否能够超越实体链接等实体为中心的任务，并带来更多的好处？(ii) 如何从原始文本中准确有效地提取这种结构化知识，尤其是嘈杂的
PDF3 months ago
WSDMWSDM Cup 2024 的第一名解决方案：利用大型语言模型进行对话式多文档问答
我们介绍了我们在 WSDM Cup 2024 的 “Conversational Multi-Doc QA” 挑战中的获胜方法，利用了大型语言模型（LLM）的优越自然语言理解和生成能力，通过将 LLMs 调整到任务需求，制定了混合训练策略来
PDF4 months ago
具有实例混淆的隐私保护语言模型推断
使用 Instance-Obfuscated Inference (IOI) 方法解决自然语言理解任务中的决策隐私问题，并在各种基准任务上评估该方法的性能和隐私保护能力。
PDF5 months ago
FaBERT：波斯语博客上的 BERT 预训练
FaBERT 是一种基于波斯语的 BERT 基础模型，在 HmBlogs 语料库上进行了预训练，涵盖了波斯语的非正式和正式文本。在 12 个数据集上的综合评估中，FaBERT 在各种下游任务中持续展现出改进的性能，包括情感分析、命名实体识别
PDF5 months ago
LB-KBQA: 基于大语言模型和 BERT 的知识驱动型问答系统
基于大型语言模型 (LLM) 和 BERT 的知识库问答系统 (LB-KBQA) 利用生成式人工智能技术能够检测新出现的意图并获取新知识，在金融领域问题回答实验中展示出卓越的有效性。
PDF5 months ago
跨语言 NLU 中的语言适配器的影响
在不存在语言的监督数据的情况下，本文研究了语言适配器在自然语言理解任务中零样本跨语言转移中的作用，通过对两个多语言模型和三个多语言数据集的详尽消融研究，结果表明目标语言适配器在任务、语言和模型间影响高度不一致。相比之下，保留源语言适配器通常
PDF5 months ago
基于 Transformer 的细调编码器在土耳其语言理解任务中的应用
我们在这项研究中，为土耳其语提供了基于 Transformer 模型的 BERTurk 模型，并进行了多个下游任务的微调和评估，包括命名实体识别、情感分析、问题回答和文本分类。与其他基线方法相比，我们的研究在土耳其语中显著提高了性能，并公开
PDF5 months ago
MaLLaM -- 马来西亚大型语言模型
MaLLaM 在马来西亚语境下训练了 1.1 亿、30 亿和 50 亿参数的模型，具有增强的马来语自然语言理解和生成任务能力，优于 ChatGPT3.5 和 Malaysian Mistral 模型，为大型语言模型在马来语上作出了重要贡献。
PDF5 months ago
学习快速捷径：关于语言模型中自然语言理解的误导承诺
大型语言模型在自然语言处理领域取得了重要的性能提升，然而近期的研究发现，这些模型在执行任务时往往使用了捷径，导致性能看起来得到了提升，却缺乏泛化能力。这一现象给大型语言模型的自然语言理解评估带来了挑战。本文对该领域的相关研究进行了简明调查，
PDF5 months ago
超越受控环境：评估 ASRRobust NLU 模型在实际应用中的可移植性
该研究通过智能家居自动化指令在乌尔都语中考察了自动语音识别（ASR）鲁棒的自然语言理解（NLU）模型从受控实验条件到实际应用的可迁移性，并评估了模型在不同噪声环境、语言变化和 ASR 错误场景下的性能。利用乌尔都 BERT 模型，研究采用了
PDF6 months ago
通过上下文学习和词混淆网络实现 ASR 鲁棒性口语语言理解
通过使用自动语音识别系统的网络输出来弥补语音模糊性，增强口语语言理解的结果，通过对置信网络的词语混淆进行实验，研究大型语言模型对嘈杂的语音转录本的鲁棒性，探讨在不同自动语音识别性能条件下的影响因素。
PDF6 months ago
面向任务的对话作为自我监督的自动语音识别催化剂
通过对话的对比学习方法，在不成功的对话中发现易于检测的问题，从而提高自动语音识别模型在任务导向对话中的性能。
PDF6 months ago