ICLRNov, 2016

在视觉场景中学会注意力，出现了中央凹采样

PDF
TL;DR描述了一种具有可学习的视网膜采样晶格的神经注意模型，在视觉搜索任务中进行训练，在需要使用最少的凝视来分类视觉场景中嵌入的物体的背景干扰时。我们研究了模型在训练后出现的平铺性质。在模型的视网膜采样晶格中，高分辨率区域位于中央凹周围的低分辨率区域，类似于灵长类动物视网膜的离心依赖采样晶格。此外，我们发现了放大或消除这些新发性属性的条件，提供了它们的功能线索。
neural attention modelretinal sampling latticevisual search taskfixationsprimate retina
发现论文，激发创造
  • Cross-SEAN: 用于 COVID-19 假新闻检测的跨针织半监督神经注意力模型

    该研究介绍了 CTF，这是第一个具有标记真实和伪造推文的 COVID-19 Twitter 假新闻数据集，并提出了基于半监督神经注意力模型的 Cross-SEAN，通过插入跨领域知识，可以部分推理出新出现的假新闻，并表明该模型在 CTF 上实现了 0.95 的 F1 分数，优于最佳基线 9％。同时，还开发了 Chrome-SEAN，一种基于 Cross-SEAN 的 chrome 扩展程序，用于实时检测假推文。

    Feb, 2021

  • 通过联合学习分割和对应实现神经数据到文本生成

    本文提出了一种基于神经注意力模型的新方法，利用分段单元和隐变量技术来解决现有的信息缺失，重复和 “幻觉” 问题，减少计算成本，成功地在数据到文本生成任务中实现更好的性能。

    May, 2020

  • 图像中视觉搜索的难度估计有多困难？

    本文提出了一种基于深度特征的回归模型，能够精确预测视觉搜索任务中图像难度，并在弱监督目标定位和半监督目标分类方面表现出不错的性能。

    May, 2017

  • 深度记忆网络在方面级情感分类中的应用

    本文提出了基于深度记忆网络的方面级情感分类模型，并通过多层神经注意力模型计算上下文词汇的重要程度和文本表示，在笔记本和餐厅数据集上的实验结果表明，这种方法的表现与现有的 SVM 系统相媲美，在多个指标方面优于 LSTM 和基于注意力的 LSTM 结构，运行速度也非常快。

    May, 2016

  • 适用于序列分类的神经注意力模型：分析及其在关键术语提取和对话行为检测中的应用

    本文研究探讨了应用于对话行为检测和关键词提取的神经注意力模型在序列分类任务中的应用和作用，并通过实验结果和可视化分析验证了该模型在去除噪音和提取关键信息方面的表现。

    Mar, 2016

  • 使用 LSTM 学习自然语言推断

    本文使用 LSTM 结构，将 match-LSTM 方法引入进行单词级联匹配以预测自然语言推理中的矛盾或中性关系标签，并在 Stanford 自然语言推理数据集上表现出比其他深度神经网络方法更高的 86.1% 的准确率。

    Dec, 2015

  • 显著性对象：一个显著性对象数据集和基础模型的探索

    通过研究人们在场景中关注的位置以及他们明确要求时选择的最显著对象之间的关系，我们建议吸引最多注视的对象是最显著的对象。我们提供了两个新的数据集，挑战现有的显着性模型，并提出了一种基于超像素的简单但强大的模型用于模型评估和比较。我们还提供了对一些标记场景数据集的评论和统计分析，这些数据集可用于评估显着对象检测模型。

    Dec, 2014