transformer-based | BriefGPT

关键词transformer-based

搜索结果 - 97

使用二进制球面量化对图像和视频进行令牌化
提出了一种新的基于转换器的图像和视频分词器，使用二值球面量化实现。BSQ 将高维视觉嵌入投影到低维超球面上，然后应用二值量化。我们的分词器使用变长视频输入的转换器编码器和解码器，通过简单的分块因果掩蔽实现。基于此的 BSQ-ViT 在图像和
PDF19 days ago
时间序列预测的自适应多尺度分解框架
我们提出了一种新颖的基于 MLP 的自适应多尺度分解 (AMD) 框架用于时间序列预测，该框架在多个尺度上将时间序列分解为不同的时间模式，并利用多尺度分解混合 (MDM) 模块将这些模式进行拆分和聚合，通过双重依赖交互 (DDI) 模块和自
PDF24 days ago
上下文时间序列预测器
近期基于 Transformer 的大型语言模型展示了在提供的上下文情况下学习各种函数的能力，而无需更新模型参数。为了充分利用上下文能力进行时间序列预测问题，我们将 “时间序列预测任务” 重新构建为输入令牌，通过生成一系列（回顾，未来）对。
PDFa month ago
ICML异构客户的循环早期退出联邦学习
联合学习模型中，为了解决客户端硬件要求的不同挑战，本文提出了一种名为 ReeFL 的循环早期退出方法，通过融合不同子模型的特征到一个共享分类器中，利用基于 Transformer 的早期退出模块更好地利用多层次特征表示进行任务预测，并调节主
PDFa month ago
为长上下文理解的 Transformer 装备随机访问读取
长文本建模提出了对基于 Transformer 的大型语言模型（LLMs）的重大挑战，我们提出了一种新的阅读策略，即随机访问，可以使 Transformer 模型在处理长文档时高效地跳过不相关的标记。通过预训练、微调和推理阶段的实验证明了我
PDFa month ago
基于梯度的时间序列解释方法：通过时空注意力网络
探索使用基于 transformer 的时空关注网络 (STAN) 进行基于梯度的时间序列解释的可行性，并通过训练 STAN 模型在时间序列数据的全局和局部视图上进行视频分类，然后利用基于梯度的 XAI 技术 (如显著图) 识别时间序列数据
PDFa month ago
网格去噪变换器
我们提出了一种名为 SurfaceFormer 的创新的基于 Transformer 的网格去噪框架，通过引入本地表面描述符以及双流结构和自注意力机制，实现了对网格噪声的有效去除。该方法在客观和主观评估中均超过了现有的最先进方法，标志着网格
PDF2 months ago
适用于文档中的表格检测的调制物体查询的端到端半监督方法
本研究提出了一种创新的基于 Transformer 的半监督表格检测器，通过结合一对一和一对多分配技术的新型匹配策略提高了伪标签质量，在早期阶段显著提高了训练效率，进而确保了更好的伪标签进行进一步训练。该方法在多个基准数据集上进行了全面评估
PDF2 months ago
Matten: 基于 Mamba-Attention 的视频生成
本文介绍了一种名为 Matten 的先进的潜在扩散模型，采用 Mamba-Attention 架构用于视频生成。Matten 以最小的计算成本，通过空间 - 时间注意力对本地视频内容建模，并通过双向 Mamba 对全局视频内容进行建模。我们
PDF2 months ago
基于 Transformer 的语言模型内部工作原理初探
这篇论文提供了对 Transformer-based 语言模型内部工作进行解释的当前技术的简明技术介绍，重点讨论生成式只解码器架构。我们最后总结了这些模型实现的已知内部机制的综合概述，揭示了该领域中流行方法和活跃研究方向之间的联系。
PDF2 months ago
稀疏 Laneformer
基于稀疏锚点机制的基于 Transformer 的车道检测框架 Sparse Laneformer，在 CULane 上使用相同的 ResNet-34 主干网络，在更少的 MACs 条件下，优于 Laneformer 和 O2SFormer
PDF3 months ago
ICLR用 Transformer 统一特征和成本聚合的语义和视觉对应
本论文介绍了一种基于 Transformer 的综合特征和成本聚合网络，用于密集匹配任务。我们展示了特征聚合和成本聚合的不同特点，并介绍了一种简单而有效的架构，利用自注意力机制和互注意力机制来统一特征聚合和成本聚合，从而在语义匹配和几何匹配
PDF3 months ago
BurstAttention: 极长序列的高效分布式注意力框架
我们提出了一种名为 “BurstAttention” 的分布式注意力框架，通过在全局集群和本地设备级别上优化内存访问和通信操作，相比于竞争的基准线，在处理长序列时减少 40% 的通信开销，训练 32K 序列长度时实现 2 倍加速。
PDF4 months ago
基于 Transformer 的袋装奖励增强学习：面向实例级奖励重新分配的方法
提出了一种称为 RLBR（Reinforcement Learning from Bagged Rewards）的新型 RL 设置，使用基于 Transformer 的奖励模型（Reward Bag Transformer）来探索袋装奖励中
PDF5 months ago
WidthFormer: 高效基于 Transformer 的 BEV 视角转换
通过提出的 WidthFormer 模型，本研究将 Bird's-Eye-View（BEV）3D 检测方法应用于实时自动驾驶应用，其具有计算效率高、有效、无需特殊工程部署等特点，并通过引入 3D 位置编码机制实现了准确融合 3D 几何信息，
PDF6 months ago
GRAM: 跨页面多模态问答的全局推理
在多页文档问答中，我们提出了 GRAM 方法，它能够无需复杂的预训练，将单页模型扩展到多页设置，并通过引入文档级指定层和可学习令牌来增强本地页面级理解，促进跨页面信息流动。大量实验表明 GRAM 在多页文档问答基准测试中具有先进的性能，展示
PDF6 months ago
BRAU-Net++：基于 U 形混合 CNN-Transformer 网络的医学图像分割
通过整合卷积和 Transformer 的优点，提出了一种名为 BRAU-Net++ 的混合 CNN-Transformer 网络，用于精确的医学图像分割任务。该网络通过使用双层路由注意力作为核心构建块来设计层次化编码器 - 解码器结构，以
PDF6 months ago
DDxT: 深度生成变换模型用于鉴别诊断
通过使用基于 Transformer 的生成模型 DDxT，该论文展示了一种自动化的差异诊断方法，其在消除了大量可能的病理学情况后能够生成可能的病理学选择，并使用神经网络预测真实的病理学，相较于以往基于强化学习的方法在当前基准测试中取得了更
PDF7 months ago
利用 Transformer 提取数学学术文章中的定义
我们考虑从学术论文的文本中自动识别数学定义中的明确术语。我们将问题作为（a）使用微调的预训练变压器进行令牌级分类任务，以及（b）使用通用大型语言模型（GPT）进行问答任务来解决。我们还提出了一种基于规则的方法，通过从论文的 LATEX 源代
PDF7 months ago
ACL大语言模型中的语言普适性有多抽象？论阐探有关论证结构
Transformer-based large language models perform well in generalizing word distributions in related contexts seen during
PDF8 months ago