Jan, 2022

基于一致性的分布式科学文档表示学习

PDF
TL;DR本文提出一种耦合的文本对嵌入（CTPE）模型，用于学习科学文档的表示，以维护文档的连贯性，并通过实验证明其有效性。
distributed document representationcoherencescientific documentscoupled text pair embeddingnatural language processing
发现论文，激发创造
  • 利用实体网格的二分结构进行文档连贯性和检索

    本文提出了三种新的文档连贯度测量指标，应用于文档的双分图以及连贯实体；经过标准测算，其中一项文档连贯度指标实现了最高的准确度，并且这些指标都有效地提高了 IR 的效率，而这些方面是基于关键字的常规排序和垃圾邮件过滤所无法检测到的。

    Aug, 2016

  • 基于知识的连贯增强文本规划的评论生成

    本文提出了一种基于知识图谱（KG）的一体化增强文本规划方法（CETP），利用 KG 的语义结构来提高生成评论的全局和局部连贯性。通过学习文档的两级文本计划，即将文档计划建模为按顺序排列的句子计划的序列以及将句子计划建模为 KG 中的基于实体的子图，进而自然地强化段落内部的实体之间的相关性和段落之间的相关性。通过在三个数据集上的广泛实验证明了我们的模型在提高生成文本内容连贯性方面的有效性。

    May, 2021

  • 协同主题建模

    我们提出了一种名为 “协调主题建模” 的新问题，旨在通过复用现有知识来更加可解释地表示语料库，并设计了一种基于嵌入式的协调主题模型（ECTM），该模型通过引入主题和文档级别的监督和自训练机制来解决此问题，并在多个领域进行的广泛实验表明我们的模型优于其他基线。

    Oct, 2022

  • 无需单词对齐的多语言分布式表示

    提出了一种在多语种情况下学习分布式表征的方法，该方法将分配相似的嵌入对齐句子，并分配不对齐的句子不相似的嵌入，模型学习到的表征具有语义信息，能够应用于跨语种文档分类任务，且未使用并行数据学习到能够跨语种捕捉语义关系的表征。

    Dec, 2013

  • 利用引用嵌入的邻域对比学习科学文献表征

    本文提出了一种通过对比学习来改善科学文档表示的方法 —— 使用引文图嵌入进行所控制的最近邻抽样来学习连续的相似度，内容主要涉及对比学习、科学文档表示、引文图嵌入、相似度语义以及相关研究。

    Feb, 2022

  • 跨模态统一建模技术用于字幕生成

    该论文利用与计算模型相关的连贯性关系研究了图像字幕生成的信息需求和目标，通过特定的协议，获取 10,000 个图像与字幕的连贯性关系，将其用于学习推理的新任务，得到的结果显示，通过连贯性关系提高了生成的字幕的一致性和质量。

    May, 2020

  • 科学文献间关系解释

    本文介绍了通过自然语言文本解释两个科技文档之间关系的任务，提出了一个新的数据集和模型，探索使用科学信息提取系统的密集表示对提高解释性能的影响，并在自动和人类评估中证明了该模型的可行性和挑战。

    Feb, 2020

  • 一种用于连贯性建模的多任务学习方法

    本研究提出一种层次神经网络模型，通过多任务学习，同时预测文档层次的信息连贯得分和词级别的语法角色，利用两个任务之间的归纳转移，提高模型泛化能力，并在不同任务中达到了新的最优表现。

    Jul, 2019

  • 基于连贯性的神经主题建模

    本文提出基于神经变分推断的方法，在主题建模的训练过程中融入主题连贯性目标，实现了主题连贯性的增强并保持了低困惑度。

    Sep, 2018

  • 预训练是热门话题：上下文化文档嵌入提高了主题相关性

    本文介绍了关于主题模型的研究，探讨了如何将 contextual embeddings 应用于 neural topic models，以提高主题模型的准确性和一致性，并且研究结果表明，对自然语言处理模型的改进将会对主题模型产生积极影响。

    Apr, 2020