Apr, 2024

概念诱导：使用 LLooM 对非结构化文本进行高级概念分析

PDF
TL;DR我们引入概念归纳，一种从非结构化文本中提取明确纳入标准的高级概念的计算过程，该过程通过使用大型语言模型不断合成抽样文本并提出具有不断广泛性的可解释概念。我们在具有毒性的在线评论数据集上实例化了 LLooM，并通过技术评估和四个分析场景的研究发现，LLooM 的概念在质量和数据覆盖方面优于传统的主题模型，并且在专家案例研究中能够帮助研究人员发现以前未注意到的见解。
concept inductionlloomunstructured text datahigh-level conceptstopic models
发现论文，激发创造
  • LLM 模型的概念归纳：用于评估的用户实验

    通过利用 GPT-4 的领域知识和常识能力，我们探索了大型语言模型在图像分类特定环境中生成高级概念作为人类解释的潜力，并通过人类研究评估了其有效性。

    Apr, 2024

  • 大型文本数据中的交互式概念学习和主题发现

    本研究提出了一种交互式框架，该框架通过接收并编码领域相关的概念和专家反馈来维护领域专家对学习的控制，从而在自动化和手动编码之间取得平衡。

    May, 2023

  • 大型语言模型为传统主题建模方法提供了一种替代方案

    本研究旨在探讨大型语言模型（LLMs）在主题提取方面的潜力，并建立评估协议以评估 LLMs 的聚类效果。通过深入实验与评估，总结了采用 LLMs 进行主题提取的优势和限制。

    Mar, 2024

  • 基于概念的大语言模型深度学习

    本文讨论大型语言模型在概念导向深度学习方面的应用，以及利用多模态语言模型进行概念提取、图谱提取和概念学习等方面的研究。同时，本文认为，虽然 LLM 在概念导向深度学习方面的应用颇具价值，但作为人工智能聊天机器人的应用， 它更具有实用价值。

    Jun, 2023

  • 面向概念感知的大型语言模型

    在本研究中，我们分析了当代大型语言模型对人类概念及其结构的理解程度，并讨论了发展具备概念意识的语言模型的方法，包括在不同阶段引入预训练和利用现有语言模型输出的简化方法。通过证明概念意识语言模型的初步结果，我们证明了其能够更好地符合人类直觉，提高了预测的稳定性，展示出了概念意识语言模型的潜力。

    Nov, 2023

  • TnT-LLM：大规模文本挖掘与大型语言模型

    利用大规模语言模型 (LLMs)，我们提出了 TnT-LLM 两阶段框架，自动化生成和分配标签，以最小人工工作量构建具有轻量级监督分类器的训练样本，并在 Bing Copilot 上应用此框架来分析用户意图和对话领域，实验结果表明 TnT-LLM 生成了更准确和相关的标签分类法，实现了在大规模分类中准确性和效率之间的有利平衡。

    Mar, 2024

  • LLM-in-the-loop：利用大型语言模型进行主题分析

    使用 LLM-in-the-loop 人工智能协作框架进行主题分析，能够在减少人力和时间需求的同时，获得与人工编码者相似的编码质量。

    Oct, 2023

  • LLM-TAKE：利用大型语言模型的主题感知关键词提取

    利用大型语言模型（LLMs）生成基于上下文的关键词，提出了主题感知关键词提取（LLM TAKE）的框架，通过避免输出非信息或敏感关键词，并减少在 LLMs 中普遍存在的幻觉，为电子商务领域的产品生成提取和抽象主题的两个变体，通过对三个真实数据集的广泛实验证明，该模型能够通过比较基准模型提升准确性和多样性。

    Dec, 2023

  • 自动主题生成的分层潜在语义映射

    本文提出一种新的名为 Hierarchical Latent Semantic Mapping (HLSM) 的主题生成方法，它可以自动从语料库中生成主题，并使用单词之间的关联和层次生成主题网络。实验表明，相比于现有的一些最先进的方法，HLSM 在几个文档集合上表现良好。

    Nov, 2015

  • 大型语言模型作为文本挖掘的统一方法学

    本文提出了一个新的文本挖掘方法：使用非常大的语言模型 (VLLM)，该方法具有文本摘要、信息提取、文本聚类等功能，取代了传统的文本挖掘方法并面临着新的挑战。

    Dec, 2022