cross-attention mechanisms | BriefGPT

关键词cross-attention mechanisms

搜索结果 - 5

超越趋势与周期性：以文本线索为指导的时间序列预测
通过整合文本线索与时间序列数据，本研究引入了一种新颖的文本引导时间序列预测（TGTSF）任务，并提出了一个稳健的基准模型 TGForecaster，它利用交叉注意机制融合文本线索和时间序列数据。通过四个精心策划的基准数据集对所提出的框架进行
PDFa month ago
自我监督表示在自动语音识别中的高效注入
我们提出了两种简单的方法，使用逐帧加法和交叉注意机制来高效地将自监督学习模型的表示纳入 ASR 架构，从而在训练期间避免使用自监督学习模型，加快了训练速度，并在 Librispeech 和 Tedlium 数据集上相较于基准模型实现了显著性
PDF2 months ago
Vid2Robot: 基于跨引注意力变形器的端到端视频条件策略学习
通过观察人类行为并将其翻译成可执行的动作，本研究介绍了一种基于视频学习的机器人框架 Vid2Robot，它通过训练机器人模型利用人类视频和机器人轨迹数据集进行任务执行。该模型利用交叉注意力机制将提示视频特征融合到机器人的当前状态中，并生成能
PDF3 months ago
透过交叉注意力揭示和减轻文本到图像扩散模型中的记忆化
研究论文概述：最近的文本到图像扩散模型在生成高质量图像方面展示了显著的能力，但是越来越多的研究表明这些模型从训练数据中记忆并复制图像，引发了对潜在版权侵权和隐私风险的巨大担忧。在这项研究中，我们通过检查交叉注意力机制与记忆现象的关系，提供了
PDF4 months ago
CLiC：上下文中的概念学习
从图像中学习对象的局部视觉模式并生成描绘具有该模式对象的图像，通过在对象的更广泛背景下获取局部视觉概念并应用于目标图像的对象，实现了对象生成和概念定位的有效方法。
PDF7 months ago