nlp systems | BriefGPT - AI 论文速递

关键词nlp systems

搜索结果 - 87

Prompt2Model: 从自然语言指令生成可部署的模型
通过 Prompt2Model 方法，可以使用少量的提示，训练出性能优异、体积小 700 倍的特定目的模型，用于自然语言处理任务。
PDF10 months ago
高效情感分析：特征提取技术、集成以及深度学习模型的资源感知评估
该论文对文档级情感分析模型进行了广泛比较评估，在关注模型部署可行性和资源消耗的重要指标方面，考虑了不同的特征提取技术、集成效果、任务特定的深度学习建模和领域无关的大型语言模型（LLMs）。研究发现，尽管微调的 LLM 获得了最高的准确率，但
PDFa year ago
文本分类任务中传统的外部分布检测方法的基准测试
本文着重介绍了现有方法在处理 NLP 中 OOD 检测时的局限性，对八种常见的 OOD 检测方法进行了评估并分析了其存在的问题，发现现有方法对于各类型分布偏移的检测敏感性不够，在领域内文本中存在令人困惑的测试场景，而需要开发更有效的 OOD
PDFa year ago
ACL使用类型学属性增强自然语言处理模型的跨语言行为测试
本文提出了 M2C，这是一种对自然语言处理模型进行语言特征行为测试的框架，并评估了 12 种类型不同的语言在不同特征测试下的表现，结果发现 NLP 模型在英语上的表现较好，但在斯瓦希里语等语言的某些特殊语言特征测试上表现不佳，这启示我们需要
PDFa year ago
SCAT: 基于对抗训练的鲁棒自监督对比学习在文本分类中的应用
本文提出了一种名为 SCAT 的自我监督对比式学习的新型框架，它可以在不要求已标记数据的情况下学习稳健的表示，并且可以增强现有预训练语言模型的稳健性。
PDFa year ago
ACL非监督式将动名词的论元映射到相应的动词标签上
提出了一种更加语法化的方法来处理名化结构中的构成成分，并利用基于上下文的词表示来构建依存句法分析，实现了高准确率的动名对应。
PDFa year ago
ACLNLPositionality: 数据集和模型设计偏差的表征
NLPositionality 框架用于检测自然语言处理（NLP）模型及数据集的偏差和位置特征，研究发现现有的数据集和模型普遍偏向西方白人、受过高等教育的年轻人，并排斥一些群体如非二元人群和非英语母语者，本文提出如何检查 NLP 模型及数据
PDFa year ago
ACLinfoVerse: 一种具有多维元信息的数据集特征化通用框架
这篇论文提出了 infoVerse，一个基于模型驱动元信息的通用框架，用于数据集表征。它提供了一个新的特征空间，可以有效捕捉数据集的多维特征，并揭示了原始语义空间中不明显的数据集特征区域，可以指导用户（或模型）在探索、评估或注释时专注于哪些
PDFa year ago
XTREME-UP: 面向用户的稀缺数据基准测试，用于代表性不足的语言
该研究提出了一个针对语言严重不足的情况的基准测试 XTREME-UP 来评估语言模型对 88 种语言的能力，比传统的零样本测试更具实际价值，侧重于用户中心的任务，包括 ASR,OCR,MT 和信息访问任务，并提供多种建模场景的方法学。
PDFa year ago
ACLTAPIR：基于双通道模型的增量自适应自然语言理解修订学习
本文介绍了一种新的 AdaPtIve 修订方法，即 TAPIR，能够利用神经网络和增量式处理、修订来更快地处理自然语言，同时保持全序列的准确性。实验证明，与重启增量转换器相比，我们的模型具有更好的增量性能和更快的推导速度。
PDFa year ago
构建更稳健的 NLP 系统评估：在基准测试中处理缺失得分
本研究提出了一种针对 NLP 研究中系统得分缺失的基准评估方法，使用 Borda 计数方法聚合使用兼容的局部排名方法填补的缺失数据，并引入一个包含超过 1.31 亿个得分的扩展基准评估，验证了该方法在处理实际情况中缺失系统评估的有效性。
PDFa year ago
ACL具有掩码推断的随机平滑方法用于对抗性鲁棒文本分类
本研究提出了 RSMI，这是一种新颖的 two-stage 框架，结合了随机平滑（RS）和掩码推断（MI），以提高 NLP 系统的对抗鲁棒性。经验证，RSMI 方法在基准数据集上比现有最先进方法提高了 2 至 3 倍的对付抗性，因此它是一种
PDFa year ago
通过比较实体相关信息来源，实现新闻覆盖中选择偏差的语料库规模发现
本篇论文探讨了如何建立可扩展 NLP 系统来直接从海量新闻语料库中发现媒体选择偏差模式的挑战，并针对新闻源的意识形态进行了实证研究，通过无监督的学习方法来捕捉新闻语料库中的媒体选择倾向，为未来的媒体选择偏差研究提供了启示。
PDFa year ago
ACL足够公平：在自然语言处理领域规范评估和选择公平性研究的模型
本研究就 NLP 系统展示的偏见和模型去偏见技术的限制做了梳理和评价，提出了实现公平学习的建议，具体包括明确不同方法之间的关系和与公平性理论的关系，以及处理模型选择问题的声明性工具，以帮助未来的工作。
PDFa year ago
EMNLP处理斯洛文尼亚传记词典中的缩写词
本文提出了一种新方法，用于处理文字中高密度领域特定缩略语所带来的问题，将此方法应用于斯洛文尼亚传记词典的案例，并在新开发的 51 个斯洛文尼亚传记的黄金标准数据集上进行了评估，提出并展示了一种在上下文中扩展缩略语的方法。此外，该缩略语识别方
PDF2 years ago
信息论视角下的解耦文本表示学习对抗性鲁棒性
本文从可分离表示学习的角度解决了对抗鲁棒性的挑战，并设计了一个可分离学习网络来估计互信息，实验证明该方法在对抗攻击下显著优于代表性方法，强调舍弃非鲁棒性特征对于提高对抗鲁棒性至关重要。
PDF2 years ago
EMNLP神经心智理论？关于大型语言模型社交智能的限制
本文从经验和理论角度出发，探究了现代 NLP 系统中的社交智能和心理理论的问题，并使用 SocialIQa 和 ToMi 任务检验了 GPT-3 的社交智能和 Theory of Mind 的能力，结果表明 GPT-3 在这些任务中存在严重
PDF2 years ago
ACL透明度揭示语言模型学习含义的过程
通过实验发现，语言模型在处理上下文无关语言时性能良好，但对上下文相关性差的语言的语义关系解释能力较差，本文研究了自然语言中的 “指代不透明” 现象，证明了当前的语言模型不能很好地表示自然语言的语义。
PDF2 years ago
如何实现平衡高效的多语言模型：既保护用户数据，又保持模型性能
本文提出了一种基于教师 - 学生知识蒸馏的新型多语种训练技术，利用平衡（子采样）数据将单语教师模型的知识蒸馏到一个多语种学生中，可以提高自然语言处理系统中低资源语言的表现。
PDF2 years ago
使用似然拆分测试长尾泛化
为了可靠地处理自然语言，NLP 系统必须推广到罕见话语的长尾中。我们提出了一种方法，通过重新拆分现有数据集来创建具有挑战性的基准，要求推广到分布的尾部。在这个简单的方法中，我们创建了一个 “似然分布分割”，把通过一个预先训练的语言模型（LM
PDF2 years ago