language representation models | BriefGPT

关键词language representation models

搜索结果 - 6

在去偏语言表征模型中不伤害受保护群体
使用实际数据训练的语言表示模型可能会捕捉和加剧不希望的偏见，导致对不同人口群体的不公平待遇。我们探讨了四种去偏见技术在实际文本分类任务上的应用，并表明减少偏见是以降低所有人口群体性能为代价的，包括那些去偏见技术旨在保护的群体。我们主张去偏见
PDF8 months ago
对最先进的大型语言模型在讽刺检测方面的评估
使用先进的语言表示模型和上下文驱动模型，对 Reddit 语料库进行分析，评估其性能并找到理想的讽刺检测方法。
PDF9 months ago
预测抑郁症症状严重程度的第一人称代词的深层表示
通过分析第一人称代词的使用情况，尤其是抑郁症症状的严重程度，先前的研究表明可以揭示个人的心理状况。本研究利用上下文嵌入模型获得的第一人称代词嵌入，分析了这些代词的使用方式以研究心理状况，并发现上下文化的第一人称代词嵌入在预测抑郁症症状严重程
PDF9 months ago
ACLWinoWhy: 用于回答温罗德图谱挑战的基本常识知识的深度诊断
该论文首次对回答 Winograd Schema Challenge 所需的基本常识知识进行了全面分类，它们被分为六类主要知识类别。同时，通过开发新任务 WinoWhy，论文证明了预训练语言表示模型依旧存在缺陷。
PDF4 years ago
EMNLP语言表征的指代推理学习
本文提出了一种新的语言表征模型 CorefBERT，可以在捕获上下文中的语义信息的同时，明确处理代词消解，实现语篇的一致理解，并在各种需要代词推理的下游 NLP 任务中获得显著的改善。
PDF4 years ago
CALM: 连续适应学习的语言建模
该研究论文提出了 CALM 技术，通过对大型语言表示模型进行连续自适应学习，使其跨领域保留知识，并在生物医学和临床领域的实验中展示了任务特定模型与 CALM 模型性能差距的减小。
PDF4 years ago