Apr, 2022

树状扩展粗细 Q-attention

PDF
TL;DR该研究提出了 Q-attention with Tree Expansion（QTE）来替代标准的 Q-attention，从而解决在机器人操作中由于分辨率较低而导致的对象类似度较高的问题。经过多项 RLBench 任务以及真实物体实验，证明我们的方法显著提高了机器人操作的效率。
q-attentionrobot manipulationtree expansioncoarse ambiguityrlbench tasks
发现论文，激发创造
  • 粗到细的 Q-attention：通过离散化实现视觉机器人操作的高效学习

    使用粗到细的离散化方法，取代不稳定，并且数据效率低的连续机器人学中的角色扮演者 - 评论者方法， 实现离散增强学习应用。该方法利用最近推出的 ARM 算法，将连续的下一个最佳姿态代理替换为离散的，采用粗到细的 Q-attention 方法，学习何时对场景的哪一部分进行缩放，实现对平移空间的近乎无损区分，并允许使用离散行动及深度 Q - 学习方法。实验表明，这种新的粗到细算法在几个困难的基于视觉的机器人任务上实现了最先进的性能，并且可以在几分钟内训练出现实世界的政策。

    Jun, 2021

  • 四叉树注意力视觉 Transformer

    通过部分 Attention 性能的提升，QuadTree Attention 可以有效实现对密集预测的视觉任务，如物体检测和特征匹配，将计算复杂度从二次降至线性，具有比以往转换器更高的性能。

    Jan, 2022

  • Q-attention: 为基于视觉的机器人操作实现有效学习

    利用注意力驱动的机器人操作算法（ARM），结合 Q-attention 代理、姿态代理和控制代理构成的三阶段流水线，能够成功解决目前强化学习在处理机器人操作任务时存在的困难，特别是针对图像输入的情况，对 RLBench 标准任务有显著的提高。

    May, 2021

  • Treeformer: 高效注意力计算的密集梯度树

    本文提出了一种名为 Treeformer 的新型 transformer 模型，通过采用基于决策树的层次化导航方法，将 attention 计算的检索成本从线性降低为几乎对数级，同时使用 TF-Attention 和 TC-Attention 两种 attention 层实现了性能优于基准 Transformer 30 倍 FLOPs 的结果。

    Aug, 2022

  • 基于注意力机制的查询扩展学习

    提出一种基于自我注意力机制的模型，以更高的准确性进行查询扩展，克服现有方法的缺陷。

    Jul, 2020

  • 细粒度视觉分类的注意力卷积二元神经树

    本文提出了一种基于关注的卷积二叉神经树框架，并使用路由功能、注意力变换器模块以及负对数似然损失函数等处理技术来解决细粒度视觉分类中遇到的问题，在多个标准数据集上的实验结果表明该方法性能优于先前提出的方法。

    Sep, 2019

  • Fovea Transformer：高效的结构化精细到粗糙注意力长上下文建模

    Fovea Transformer 是一种以长 - context 为中心的 Transformer 模型，通过在输入序列中构建一个多尺度树来提高模型对全局依赖性的捕捉能力，并在长 - context 摘要任务上取得了最先进的性能。

    Nov, 2023

  • 用于高效本地注意力的学习查询

    本文提出了一种名为 query and attend（QnA）的新型 shift-invariant local attention 层，将其并入分层视觉 transformer 模型，并证明其在速度和内存复杂度方面的改善，同时又能实现与最先进的模型相当的准确度。

    Dec, 2021

  • 视觉问答的互注意融合

    该研究提出了一种新的注意力机制，同时考虑视觉细节的两个层次，即物体实例和它们的部分，通过高效的张量分解方案，设计了分层融合多模态信息的模型并提高了已有模型达到了一个显著的提升。

    May, 2018

  • DeFT: 带有 IO 感知的快速树注意力的树搜索型 LLM 推理

    通过树搜索解码，DeFT 提出了一种基于 IO 的树注意力算法，实现了内存高效的注意力计算，加速了端到端推理任务的运行速度。

    Mar, 2024