ACLMar, 2024

连接点：使用检索的短语图推断专利短语相似度

PDF
TL;DR本研究提出了一种基于图增强的方法来提高专利短语的表示能力，并通过自监督学习目标来优化上下文嵌入和图参数，实现专利短语的语义相似度推断。实验证明，该方法在自监督模式下显著提高了专利短语的表示，同时在监督模式下也观察到明显的改进，突显了利用检索的短语图增强的潜在优势。
patent phrase similaritysemantic similaritygraph-augmented approachself-supervised learningphrase graph augmentation
发现论文，激发创造
  • 专利短语语义匹配数据集

    本研究介绍了一个新的人工评估的语境性短语匹配数据集，主要应用于专利和科学出版物中的技术概念，并且描述了该数据集和一些基线模型。

    Aug, 2022

  • 专利相似性的嵌入模型比较分析

    该研究在文本专利相似性领域有两方面的贡献：首先，它比较了不同类型的专利特定预训练嵌入模型，包括静态词嵌入（如 word2vec 和 doc2vec 模型）和上下文词嵌入（如基于 transformers 的模型），在专利相似性计算任务上的性能；其次，它比较了 Sentence Transformers（SBERT）架构在专利相似性任务上不同训练阶段的性能。结果表明，该研究提出的专利 SBERT-adapt-ub，即预训练 Sentence Transformer 架构的领域自适应，优于当前专利相似性的最新技术水平。其次，研究结果显示，在某些情况下，大型静态模型在训练大量数据时仍可以与上下文模型相媲美；因此，我们认为上下文嵌入在性能上的优势可能与实际架构无关，而是与训练阶段的方式有关。

    Mar, 2024

  • 图表示学习用于专利网络分析

    利用图表学习方法分析伊朗官方公报中的专利数据，发现新的行业和研究领域，避免重复专利，了解类似和连接的发明，认识支持专利的法律实体，以及了解特定研究领域中的研究人员和相关利益相关者。

    Sep, 2023

  • 一种新的专利相似度测量方法：语义距离和技术距离

    提出了一种混合方法来自动测量专利之间的相似度，该方法考虑了语义和技术上的相似性，并使用 BERT 评估文本之间的语义相似度，使用 Jaccard 相似度计算 IPC 代码之间的技术相似度，并通过为两个相似度方法分配权重进行混合化。评估结果表明，该方法优于仅考虑语义相似性的基线。

    Mar, 2023

  • 专利分析中句子嵌入模型表现的调查

    本研究旨在评估基于不同 NLP 嵌入模型的专利数据嵌入模型计算专利技术相似度的准确度，提出了一个评估嵌入模型准确度的标准库和数据集，研究结果表明 PatentSBERTa、Bert-for-patent 和 TF-IDF 加权词嵌入在子类别级别计算句子嵌入具有最好的精确度。

    Apr, 2022

  • 图搜索和匹配实现的多文档摘要

    本论文提出了一种基于图表达的文本相似性和差异性总结方法，使用 “spreading activation” 技术在两个相关文档中发现与主题语义相关的节点，并将两个文档的激活图匹配以获得相似和不同之处的图。

    Dec, 1997

  • 使用集成 BERT 相关模型和新型文本处理方法进行专利文档的语义相似性匹配

    本研究探讨专利文件分析中的语义相似性评估，介绍了一种集成方法和专利文件的文本预处理方法，重点解决了语言障碍和文档复杂性问题，并在美国专利短语匹配数据集上证明了其有效性。

    Jan, 2024

  • 医疗临床笔记相似性估计的图增强循环学习框架

    本文介绍了一种在医疗领域中处理语义文本相似度的图增强循环学习框架。该框架可以方便地在最先进的基础语言模型上实现，并通过使用基于图卷积网络的辅助网络同步训练，利用领域知识来提高其性能。研究结果表明，引入 GCN 和同步训练框架的领域知识，分别将 Bio-clinical BERT 的基准线提高了 16.3% 和 27.9%。

    Aug, 2022

  • Phrase-BERT：基于 BERT 的短语嵌入改进及应用于语料库探索

    本文提出了一种对 BERT 进行微调的方法（Phrase-BERT），使其能够生成更强大的短语嵌入，Phrase-BERT 利用一个由短语描述形式多样的同义词集以及从 Books3 语料库中挖掘的大规模情境短语数据集生成模型，并在各种短语级相似性任务中优于基线。 此外，该文还将 Phrase-BERT 嵌入式与简单的自编码器相结合，构建了一种利用向量空间中最近邻搜索将主题解释为词和短语混合的短语主题模型。 众包评估表明，该短语主题模型比基线的单词和短语级主题模型产生更一致和有意义的主题，进一步验证了 Phrase-BERT 的效用。

    Sep, 2021

  • 联合建模本地和全局语境的无监督关键词提取

    本文提出了一种新的方法来解决无监督关键词抽取任务，该方法联合建模本地和全局语境。本地语境是通过基于文档的图形结构计算的，而全局语境是通过矢量空间中的转型嵌入模型计算的。最后，联合建模全局和本地语境以进行排名。

    Sep, 2021