language processing | BriefGPT

关键词language processing

搜索结果 - 47

使用 EEG 和语言模型探索语言处理的时间尺度
本研究探讨了语言处理的时间动态，通过研究预训练基于变压器的语言模型和脑电数据之间的单词表示的对准。使用时间响应函数 (TRF) 模型，我们调查了神经活动如何对应于不同层的模型表示，揭示了人工语言模型和大脑在语言理解过程中的相互作用的见解。我
PDF6 days ago
DASB -- 离散音频和语音基准
通过发布离散音频和语音基准 (DASB)，我们研究了离散音频标记符在各种任务中的性能表现，并发现语义标记比压缩标记在大多数任务中表现更好，但语义标记和标准连续表示之间的性能差距仍然存在。
PDF14 days ago
如何从自监督模型中提取离散音频标记？
这篇论文探讨了语义标记的最佳配置，提出了训练通用声码器的可扩展解决方案，并使用注意机制来提高语义标记在多种音频应用中的适应性和性能。
PDF19 days ago
ACL语言模型的优势是什么？
心理语言学研究发现，人类可能会构建一个对于当前任务而言足够好的语言输入表示。本研究探讨了使语言模型学习类似人类好还是足够好的语言处理的体系结构特征。我们关注 Transformers 中层数和自注意头数，并创建了一个好而足够的语言处理评估数
PDFa month ago
基于语言处理的自动新闻生成与事实核查系统
本文探索了一种基于语言处理的自动新闻生成和事实核查系统，旨在提高新闻生产的效率和质量，同时确保新闻内容的真实性和可靠性。通过整合事实核查技术，该系统可以有效防止虚假新闻的传播，提高新闻的准确性和可信度，而自动新闻生成和事实核查所涉及的关键技
PDF2 months ago
大型语言模型中的叙事处理分析：使用 GPT4 测试 BERT
使用基于 transformer 的大型语言模型（LLMs）的 ChatGPT 作为研究对象，通过分析 BERT 隐藏单元的激活模式，发现其在不同层次上根据文体变异（1）和叙事内容（4-5）进行聚类，揭示了 LLMs 内部的区别任务处理机制
PDF2 months ago
PORTULAN ExtraGLUE 数据集和模型：启动葡萄牙语神经处理基准测试
借助对葡萄牙语神经模型的研究，我们提供了一套用于多种语言处理任务的数据集合，以及针对这些下游任务进行细调的神经语言模型集合。通过使用最先进的翻译引擎将数据集从英语机器翻译成葡萄牙语，以与文献中的主流基准相结合，启动了葡萄牙语的对应数据集。由
PDF3 months ago
中文恶意言语检测：现状与未来方向
监测和规范社交媒体平台上用户生成内容的努力虽然仍然在进行，但数字空间中令人不悦的语言（如仇恨言论或网络欺凌）的普遍存在仍然是一个重大挑战。本文全面概述了中文中令人不悦言语的检测，考察了当前的基准和方法，并强调了解决这种复杂语言中令人不悦言语
PDF3 months ago
Pix2Pix-OnTheFly：借助 LLMs 实现指导图像编辑
该研究论文通过语言处理和图像处理的组合吸引了越来越多的关注，其中一项最具挑战性的任务是仅基于自然语言指令对图像进行编辑。本论文提出了一种无需准备的方法，通过图像字幕和 DDIM 反演、获取编辑方向嵌入以及图像编辑等三个步骤有效地进行指令引导
PDF4 months ago
VLSP 2023 -- LTER：法律文本语义推理挑战概述
在这个快速发展的人工智能时代，特别是在语言处理方面，对于在法律领域应用人工智能的需求变得越来越关键。本篇论文介绍了法律领域越南语的首个基础研究：通过越南语言和语音处理研讨会进行法律文本蕴含识别。通过分析参与者的结果，讨论了法律领域中存在的关
PDF4 months ago
FAMuS：多来源的帧
理解事件描述是语言处理的核心方面，但目前的方法主要集中在单个句子或文档上。跨文档汇总事件信息能提供更丰富的理解。为此，我们介绍了 FAMuS，这是一个新的维基百科段落语料库，用于报告某个事件，并提供与之对应的不同体裁（非维基百科）的源文章。
PDF8 months ago
语音语言模型缺乏重要的与大脑相关的语义
文本和语音语言模型能够准确预测脑部活动，但是消除特定的低级刺激特征后发现语音模型失去了对大脑的预测能力，进一步研究显示语音模型需要改进以更好地反映大脑的语言处理。
PDF8 months ago
EMNLPScanDL: 一种在文本上生成合成扫描路径的扩散模型
我们提出了一种基于离散序列到序列扩散模型的 ScanDL，通过利用预训练的词表示和联合嵌入刺激文本和注视序列，捕捉两个输入之间的多模式交互。我们在数据集内外进行了评估，并证明它明显优于最先进的扫视路径生成方法，最后，我们进行了广泛的心理语言
PDF8 months ago
ACLCebuaNER：一个新的基准 Cebuano 命名实体识别模型
为鼓励该领域的研究工作增长，本研究引入了 CebuaNER，该模型是用于 Cebuano 语言中命名实体识别（NER）的新基线模型。该模型在训练算法时收集并标注了超过 4,000 篇新闻文章，并在精确率、召回率和 F1 三个指标上取得了超过
PDF9 months ago
自然语言的元预测学习模型
基于自注意力机制的大型语言模型在语言处理和自然语言本身中取得了惊人的成绩，并且在不同性质的各种任务中也取得了成绩。本文在预测编码框架内提出了一个平均场学习模型，成功地验证了其在分类手写数字和玩具以及真实语言语料库中的有效性。因此，我们的模型
PDF10 months ago
谣言服务员：以策展推特 COVID-19 疫苗数据为基础的概念验证
我们展示了一个名为 “Misinformation Concierge” 的概念验证，它通过使用语言处理和机器学习工具来识别讨论的子主题和辨别虚假 / 误导性帖子，向决策者呈现统计报告，帮助他们及时了解流行的虚假信息的整体情况，并从数据语料
PDF10 months ago
fMRI 中语言编码模型的尺度定律
本文研究使用基于 Transformer 的语言模型，比较了不同模型尺寸与训练数据规模对于预测功能性磁共振成像记录下的脑活动响应的影响。结果显示，当模型或数据规模增大时，在音频与语言预测方面均能获得显著性提升，这为在理解大脑语言处理机制和实
PDFa year ago
使用提示进行多模态视觉理解，实现图像语义信息的解耦
通过对多模式图像使用提示来提高图像的语义理解能力，将视觉与语言处理相结合，以生成更准确的预测和识别图像，并通过提供更强大的图像表示来改进单模态模型，这是一个有前途的研究领域。
PDFa year ago
ChatGPT 在语言使用上是否与人类相似？
通过 12 个预注册的实验，我们发现像 ChatGPT 这样的运用大型语言模型的聊天机器人能够在很大程度上模仿人类语言处理，但是他们在一些方面与人类处理方式存在差异，并且可能通过 Transformer 架构来解释这些差异。
PDFa year ago
人类语言的假观念：为何统计学需要语言学
研究语言处理的统计表面分布和基于句法信息的离散分层结构之间的紧张关系，揭示了只有反映句法结构的 surprisal 模型能够解释语言的规律性。
PDFa year ago