transformer based models | BriefGPT

关键词transformer based models

搜索结果 - 8

SQBC: 在线政治讨论中基于 LLM 生成的合成数据的立场检测的主动学习
通过使用 LLM 生成的合成数据，我们提供了两种不同的方法来训练和改进在线政治讨论的立场检测代理：一是通过合成数据增加微调数据集以改善立场检测模型的性能；二是基于 “Query-by-Committee” 方法提出了一种新的主动学习方法 S
PDF3 months ago
大型遥感影像密集预测的 RS-Mamba
远程感知图像中的密集预测任务存在挑战，本研究提出了一种基于远程感知 Mamba（RSM）的模型，利用线性复杂度对全局特征进行建模，以有效处理大尺寸的高空间分辨率远程感知图像，并通过全局建模和多方向扫描提取大尺度空间特征等，实验结果表明该方法
PDF3 months ago
自然语言处理方法在问题难度估计中的定量研究
本研究通过定量分析之前研究中提出的几种方法，比较它们在三个不同教育领域包含不同类型问题的公开真实数据集上的表现，发现基于 Transformer 的模型在跨不同教育领域的 MCQs、科学题和数学题等方面表现最佳，超越其他方法甚至在较小的数据
PDFa year ago
使用 Transformer 全流程生成从科学摘要中获取幽默的标题
研究了基于 Transformer 的 7 种模型在 NLP 和机器学习场景下的抽象到标题生成问题，并扩展到更难的生成幽默科学论文标题的问题。使用人类和自动度量衡方法评估了所有模型，发现最好的端到端系统与人类作者表现相似，而 ChatGPT
PDF2 years ago
MMAILAB-Udine@SMM4H 22: Transformers 和 BERT 集合的极限
AILAB-Udine 团队在 SMM4H 22 共享任务中使用 Transformer-based 模型进行了文本分类、实体提取和实体归一化，并探索了集成学习的不同架构的协同效应和生成模型在术语规范化方面的巨大潜力。
PDF2 years ago
MM基于预训练语言模型检测社交媒体评论中的恐同和恐 Trans 现象
本文介绍了我们基于转换器模型的 LT-EDI 共享任务中用于检测社交媒体评论中的恐同和仇视跨性别内容的系统，使用 mBERT 等模型，并通过数据增强技术处理类别不平衡问题，代码已开源。在英语、泰米尔语和泰米尔语 - 英语子任务中，我们的排名
PDF2 years ago
EMNLP探究自动翻译在无歧义性别情况下发生错误的原因
研究表明，使用基于 Transformer 的神经机器翻译模型在翻译一个没有对名词进行性别标注的语言时存在一些固有的性别标注错误。该论文提出了一个评估方案和数据集，以便在不同语言和句法结构的语境下准确评估基于 Transformer 的 N
PDF3 years ago
I-BERT：仅限整数的 BERT 量化
本研究提出了一种新的基于整数的 Transformer 模型量化方案 I-BERT，使用轻量级整数逼近方法进行端到端的 Bert 推理，无需浮点计算，相较于全精度基准实现在准确率上相当甚至略有提高，同时在 T4 GPU 系统上进行 8 位整
PDF3 years ago