transformer-based model | BriefGPT

关键词transformer-based model

搜索结果 - 140

ACL通过关注多种标签嵌入进行准确和良好校准的 ICD 编码分配
该论文描述了一种新颖的自动 ICD 编码方法，结合了先前相关工作的几个思想。我们特别采用一种强大的基于 Transformer 的文本编码模型，并针对冗长的临床叙述，探索了将基本编码模型调整为 Longformer，或者将文本分成块并独立处
PDF5 months ago
动态压缩中的流式序列转导
STAR 是一种基于 Transformer 的模型，用于在流数据上进行高效的序列转换。通过动态分割输入流创建压缩的锚点表示，STAR 在自动语音识别（ASR）中实现几乎无损压缩（12 倍），并优于现有方法。此外，在同时进行语音到文本任务中
PDF5 months ago
基于 Transformer 深度学习的多语种仇恨言论分析与检测
使用基于 Transformer 模型的算法来检测社交媒体上的仇恨言论，无论语言如意大利语、英语、德语还是孟加拉语，该模型的检测准确率较现有基准和最先进模型提高，其成功率达到了 89%（孟加拉语）、91%（英语和德语）以及 77%（意大利语
PDF6 months ago
NViST：使用 Transformers 从单张图像中合成真实环境新视角
我们提出了一种基于 transformer 的模型 NViST，用于从单张图像中合成新视角，该模型在具有复杂背景的大规模野外图像数据集上进行训练。
PDF7 months ago
基于 Transformer 嵌入和层次感知注意力结构的金融交易分层分类
本研究提出了一种基于 Transformer 的 Two-headed DragoNet 模型，用于金融交易的分层多标签分类。我们的模型基于一系列 Transformer 编码层，从两个简短的文本描述（商家名称和业务活动）生成上下文嵌入，然
PDF7 months ago
眼睛与人工智能：视频记忆中的人眼注视与模型关注
通过使用基于 Transformer 的模型结合了时空注意机制，我们研究了影响视频记忆性的语义和时间注意机制，并对一个大型自然主义视频数据集上的视频记忆性预测任务表现进行了比较。结果显示模型的注意力与人类凝视的密度图表现出相似的模式，并且模
PDF7 months ago
无监督图注意力自编码器用于带属性网络的 K 均值丢失
利用最新的转换器和特征提取工具构建阿拉伯语多模态数据集，验证其在多模态学习中的效果，并展示阿拉伯语多模态研究的潜力。
PDF8 months ago
CLearViD: 视频描述的课程学习
CLearViD 是一种基于 Transformer 的视频描述生成模型，利用课程学习方法逐渐暴露模型于更具挑战性的样本和逐步降低网络容量，从而学习到更具鲁棒性和泛化性的特征，并利用 Mish 激活函数来缓解梯度消失问题。实验证明了该模型在
PDF8 months ago
FragXsiteDTI：用 Transformer 驱动的解读方法揭示药物靶向相互作用中的关键部分
利用 FragXsiteDTI 模型，同时运用药物分子碎片和蛋白质口袋，优化了药物靶标相互作用预测的模型解释性和性能，其详细的蛋白质和药物的信息表征提供了药物靶标相互作用的详细视角。通过 Perceiver IO 框架，模型的可学习潜在数组
PDF8 months ago
一张 WSI 能够传达的信息有哪些？基于亚型引导的遮蔽变换器用于病理图像字幕生成
通过使用基于 Transformer 的 Subtype-guided Masked Transformer (SGMT) 范式，我们在病理图像标注中引入一种伴随的亚型预测，以提高训练过程中的准确性，并通过采用不同的序列化抽样策略来处理病理
PDF8 months ago
MM基于自我蒸馏的多模态会话情感识别的 Transformer 模型
本文提出了一种基于自蒸馏 (SDT) 的基于变压器模型，该模型通过利用变压器来捕捉内部和跨模式之间的相互作用，并通过设计分层门控融合策略来动态学习模式之间的权重，并将所提出模型的软标签作为额外的训练监督，从而学习更具表现力的模式表示，实验证
PDF8 months ago
基于 Transformer 的卫星图像雷达合成的严重天气即时预报
使用卫星数据的变压器模型现在预测地基雷达图像序列，可在两小时领先时间内，支持大范围的降水预测并为数据稀缺地区提供雷达替代品。
PDF8 months ago
EMNLP一次性答案生成和证据检索
1-Pager 是第一个使用单个基于 Transformer 模型和解码过程回答问题和检索证据的系统，通过使用约束解码来增量地分割检索语料库以选择文档和答案字符串，我们展示了其在检索和答案准确性指标上与可比较的检索和阅读替代方法相竞争。1-
PDF8 months ago
ViFiT：从 IMU 和 Wi-Fi 精确时间测量重建视觉轨迹
提出了一种基于 Transformer 的模型 ViFiT，从手机数据（IMU 和 Fine Time Measurements）重构视觉边界框轨迹，并通过一种新颖的评估框架（最小所需帧和最小所需帧比率）证明其在跨模态重构中的优越性能和较高
PDF9 months ago
增强数据流分析的学习类型推断
CodeTIDAL5 是一种基于 Transformer 的模型，用于可靠地预测类型注释，并从程序的代码属性图中提取使用片段，其在 ManyTypes4TypeScript 基准测试上优于当前最先进的神经类型推理系统 7.85％，总体准确率
PDF9 months ago
利用 Swinunter 进行 CT 腹部多器官分割
应用基于转换器的模型进行训练，研究论文中介绍了在计算机断层扫描中腹部多器官分割的重要性以及深度学习方法在此方面的应用。尽管由于器官边界模糊、复杂的背景和不同器官尺度的挑战，单个网络精确分割不同器官仍然具有挑战性。先前的竞赛中基本上所有前五名
PDF9 months ago
HOI4ABOT: 人物物体交互预测人类意图阅读协作机器人
通过提出一种高效且鲁棒的基于 Transformer 的模型，实现对人机交互中人物 - 物体交互的检测和预测，从而增强机器人的主动协助能力，提高人机协作的效率和直观性。实验证明机器人的预测能力对于更好的人机交互至关重要。
PDF9 months ago
利用腮腺炎数据提升使用 UPTST 进行手足口病入院预测的医院级预测
手足口病 (HFMD) 的爆发会导致重大的发病率，并在严重病例中导致死亡。因此，准确预测儿科 HFMD 患者每日入院人数对于帮助医院准备潜在爆发并减轻医院内传播非常关键。为了解决这一迫切需求，我们提出了一种基于变压器的新型模型，具有 U-n
PDF9 months ago
基于神经引导动态符号网络的数学表达式探索
我们提出了 DySymNet，这是一个新颖的神经引导的动态符号网络，用于符号回归。通过对各种结构进行优化，我们能够更好地识别与数据更匹配的表达式，在低维和高维问题中都能取得卓越的性能。
PDF9 months ago
Crowdotic: 使用 Transformer 的非语音音频和差分隐私的医院候诊室占用估计
使用非语音音频数据进行准确的人员估计，同时确保排除与语音相关的内容，并通过差分隐私技术提供强大的隐私保护。
PDF10 months ago