KDDAug, 2023

工业记忆：利用神经词嵌入和机器学习探索政府调查结果

PDF
TL;DR我们提出了一个文本挖掘系统，支持对大量政府调查结果的探索。通过使用词嵌入、文本分类和可视化，我们转化了爱尔兰政府对工业学校的调查结果，提供了一个互动的基于 Web 的平台，以解开文本中的新历史洞见。
text mining systemgovernment inquiriesword embeddingtext classificationinteractive web-based platform
发现论文，激发创造
  • 社会科学的词嵌入：跨学科调查

    研究机器学习模型，学习低维表示模式，将词嵌入技术应用于人类行为挖掘，探讨其优势和趋势，并警示相似性度量常常在单独层面返回一致结果，但在聚合层面则有可能产生不同结果。

    Jul, 2022

  • 知情式机器学习，中心性，卷积神经网络，相关文档检测，土著人类遗骸遣返

    澳大利亚和其他原住民族面临的迫切问题之一是将其祖先的遗体遣返到他们的社区，期望应用文本挖掘技术和机器学习方法自动化地发现相关文本以协助确认偷窃、捐赠、销售或交换的情况，研究人员确定了关键词，通过将这些关键词与专家植被研究的概念进行匹配以增强模型，模型有效地识别了与原住民人类遗骸全球商业贸易调查相关的文档，并可推广到其他社会科学和人文学科的大型文本语料库中的信息提取。

    Mar, 2023

  • 神经信息检索：文献综述

    本研究总结了当前神经信息检索研究的情况，特别关注了问题和文档的学习性表示（即神经嵌入），强调了神经信息检索目前的成功之处，列出了其更广泛采用的障碍，并建议未来研究的潜在方向。

    Nov, 2016

  • 利用大型语言模型嵌入追溯思想的谱系

    通过使用大规模语料库中语言模型的独特优势来检测知识影响，本文提出了一种新方法，并应用组合方法来实现不同阈值下的引用、改写或相似性，通过使用这种方法在 19 世纪的大规模学术著作中检测达尔文的观点，证明了该方法的可行性和广泛适用性。

    Jan, 2024

  • 基于嵌入的实体对齐的行业评估

    本文评估了嵌入式实体对齐在工业环境中的性能，提供了基于医学应用的两个异构知识图谱的新的评测基准，并探索了不同数量和不同偏差的种子映射对性能的影响，揭示了这些对齐方法的优缺点以及适合工业部署的策略。

    Oct, 2020

  • 使用 LLM 嵌入进行文本聚类

    通过使用大型语言模型（LLMs）的文本嵌入和聚类算法，该研究调查了文本聚类方法对数据集的影响，评估了嵌入对聚类结果的影响、通过摘要进行的维度降低的作用以及嵌入维度和摘要技术的调整。结果显示，LLMs 嵌入在捕捉结构化语言的细微差别方面表现出色，而 BERT 在性能方面领先于其他轻量级选择。此外，我们发现增加嵌入维度和使用摘要技术并不能统一提高聚类效率，暗示这些策略需要仔细分析才能在现实模型中应用。这些结果突显了在文本聚类应用中，需要权衡对细微差别的文本表示需要和计算可行性之间的复杂平衡。该研究通过引入 LLMs 嵌入，扩展了传统文本聚类框架，从而为改进方法学和在各种类型的文本分析中开辟了新的研究方向。

    Mar, 2024

  • 个性化信息检索的词嵌入研究

    本文介绍了使用 Word Embedding（word2vec）在个性化信息检索上进行查询扩展的初步工作，通过对用户档案进行学习，实现了个性化的词嵌入学习以获取和用户兴趣相同的上下文，该方案在 CLEF Social Book Search 2016 集合上评估，结果表明在个性化信息检索上应对 Word Embedding 应用进行一些努力。

    Jun, 2016

  • 从词袋到 transformers: 面向巴西葡萄牙语用户评论的文本分类嵌入生成

    本文分享了实验的结果，探讨在自然语言处理领域中，以仿射变换为基础的学习模型（Transformer-based Language Models，简称 TLM）作为最佳模型，实现对巴西葡萄牙语用户评论的情感分析，该研究对 Bag-of-Words 到 Transformer-based NLP 模型进行了评估。

    Dec, 2022

  • 信息检索的神经网络

    本研究论文旨在向初学者和有经验的研究人员介绍当前 IR 问题的深度学习中的神经方法，并涵盖了关键架构和最有前途的未来方向。

    Jul, 2017

  • 跨语言文本分类与识别的深度学习和嵌入可视化的比较分析

    该研究通过深度学习和嵌入可视化对多语言文本分类方法进行比较研究，特别关注 FastText 和 Sentence Transformer 模型，并探索了维度对聚类的影响。研究结果显示，FastText 在二维可视化中显示出更清晰的聚类效果，取得了显著的准确性、精确率、召回率和 F1 分数，优于 Sentence Transformer 模型。该研究强调了这些技术在多语言文本分类中的有效性，并强调了使用大型多语言语料库进行嵌入训练的重要性。它为未来的研究奠定了基础，并辅助开发语言检测和分类系统。此外，研究还对多层感知机、LSTM 和卷积模型进行了比较。

    Dec, 2023