transformer networks | BriefGPT

关键词transformer networks

搜索结果 - 65

ResiDual：带有双重残差连接的 Transformer 模型
本研究提出了一种新的 Transformer 结构 ResiDual，它融合了 Post-Layer-Normalization 和 Pre-Layer-Normalization 的优点，同时避免了它们的缺点，有效地解决了 Transfo
PDFa year ago
使用 Wav2vec2 和 Whisper 进行演讲者和语言变更检测
通过向标签添加说话者（变化）或语言目标，我们研究了最近为自动语音识别预训练的 transformer 网络对检测语音中的说话者和语言变化的能力。对于 Wav2vec2 预训练网络，我们还研究了是否可以调节说话者变化符号的表示以捕获说话者身份
PDFa year ago
基于课程指导的抽象摘要
本文提出两个方法以弥补 Transformer-based summarization 模型在内容选择方面表现不佳和训练策略效率不高的缺陷，使得模型可以更好的理解要点，同时引入课程学习的方法提高了训练速度和质量，并用 Reddit TIFU
PDFa year ago
可编程计算机的环形变压器
本文提出了一种使用 transformer 网络作为通用计算机的框架，演示了一种将迭代算法映射为循环可执行程序的方法，并展示了注意力机制的多种用途。
PDFa year ago
凸化 Transformer：改进 Transformer 网络的优化和理解
论文研究了 Transformer 网络模型训练的问题，并提出了一种新的凸分析方法来解决这个问题，进而提供了这些网络模型的理论解释以及性能优化方法。
PDF2 years ago
使用动态视觉传感器重新审视人类活动识别
本文提出了一个大规模的基准数据集 HARDVS 来填补基于事件相机的人类活动识别领域的数据空缺，同时还提出了一个名为 ESTF 的新的空间 - 时间特征学习和融合框架，结合了 STEMNET 和 Transformer 矩阵计算。结果表明，
PDF2 years ago
基于结构化任务训练的 Transformer 模型的系统泛化和涌现结构
该文探讨了怎样使用 Transformer 网络在算法任务中表现良好，展示了多层 transformer 网络在任务分解中的可靠性解决方案，以及所有相关任务中的共享计算的利用。
PDF2 years ago
Equiformer: 三维原子图的等变图注意力变换器
本文提出的 Equiformer 是一种图神经网络，利用变换器架构的优势，并结合基于不可约表示（irreps）的 SE (3)/E (3) 等变特征，取得了在 QM9、MD17 和 OC20 数据集上与之前模型相当的好的性能。
PDF2 years ago
MRI 影像的乳管内乳头状粘液性肿瘤（IPMN）分类的神经变换器
提出了一种基于人工智能的 IPMN 分类器，利用转换网络成功的泛化能力，将预训练应用到医学影像领域，比标准卷积神经网络更好地利用先前训练，从而允许更好的结果解释。
PDF2 years ago
CVPR音乐和视频的艺术通信时代
本文提出了一种基于自我监督学习的方法，使用 Transformer 网络建模视频和音乐信号的长期时间上下文，以实现音乐和视频之间的艺术语义对应以及它们之间的互相推荐，并在实验中表现出很强的性能优势。
PDF2 years ago
通过神经模型逼近条件覆盖率和校准性
通过基于 Transformer 网络的 KNN 近似来构建数据驱动的分区，再通过 Inductive Venn 预测器进行校准，从而实现对不确定性的量化和计算机分类模型预测集的标记，进而实现最终任务的目标。
PDF2 years ago
CVPRTransforMatcher: 用于语义对应的匹配 - 匹配注意力
本文介绍了基于 Transformer 网络的图像语义匹配学习器 TransforMatcher，通过全局匹配 - 匹配注意力和动态细化，利用轻量级注意力架构实现匹配处理和基于多层次特征的多通道相关图的精细化处理，以达到确切的匹配定位和 S
PDF2 years ago
CV4Code: 通过视觉代码表示理解源代码
CV4Code 是一种针对源代码的紧凑而有效的计算机视觉方法，不需要词法分析或语法树解析的步骤，它将代码片段视为二维图像，并使用 ASCII 码点图像表示方法，利用这种方法生成源代码图像非常快速且无冗余，进一步使用卷积神经网络和 trans
PDF2 years ago
ParkPredict+: 基于 CNN 和 Transformer 的停车场车辆多模态意图和运动预测
该研究使用卷积神经网络和 Transformer 网络从轨迹历史记录和卫星图像中提取时间空间和语境信息，对停车场中人驱动车辆的多模态意图和轨迹预测问题进行了研究，并提出了一种新的方法，能够更精确地预测多个模态，并编码复杂的多智能体场景，同时
PDF2 years ago
Delta Keyword Transformer: 通过动态裁剪的多头自注意力将 Transformer 移植到边缘
该研究提出了一种动态剪枝方法，通过利用数据在不同时间点的稳定性来降低推理成本，减少了 Transformer 网络中 self-attention 操作的次数，从而在维持高准确率的同时大幅度降低了模型复杂度。
PDF2 years ago
Transformer 是否知道符号规则，我们是否能知晓？
本文提出了两个标准评估 transformer 网络在 NLP 中的 symbolic capacities，并指出当前关于其 symbolic 特性的研究结果基于实验设计的固有缺陷，进而在 T5 Transformer 上进行了四项序列建
PDF2 years ago
ECCVActionFormer：使用 Transformers 定位行为片段
ActionFormer 是一种基于 Transformer 网络的模型，采用了多尺度特征表示和本地自我注意力机制来识别视频中的动作。它在 THUMOS14 上取得了 71.0％ mAP，在 ActivityNet 1.3 和 EPIC-K
PDF2 years ago
关系自注意力：视频理解中注意力缺少的部分
本文提出了一种基于动态生成关系卷积核和聚合关系背景的关系特征变换 —— 关系自注意力 (RSA)，用于视频理解。通过实验和消融研究，证明 RSA 网络在视频动作识别等领域明显优于传统卷积和自注意力网络。
PDF3 years ago
ICML自注意机制中的感性偏见和变量创建
本文通过对自我注意模块归纳偏差的理论分析，发现有界 Transformer 网络能够创建稀疏变量，从而用单个注意力头表示输入序列的稀疏函数，样本复杂度仅以对数尺度增长；通过合成实验来支持我们的分析，探究了使用 Transformer 学习稀
PDF3 years ago
自注意力矩阵的表达能力
本文研究了 Transformer 网络中的自注意力矩阵，重点分析了稀疏模式的逼近。我们证明了通过固定自注意力参数，采用不同的输入即可逼近各种稀疏矩阵，并提出了一种基于随机映射技术的构造性证明和算法。尤其是，在保持矩阵元素比率不变的精度下，
PDF3 years ago