Sep, 2024

对话分析在大型语言模型时代的必要性：任务、技术和趋势的调查

HTML
PDF
TL;DR本研究解决了对话分析（CA）领域缺乏明确范围的问题，系统梳理了现有技术，以支持业务应用决策。通过定义CA任务并提出四个关键步骤，文章探讨了从对话重建到深度归因分析的流程，强调利用大型语言模型推动高层次因果和战略任务的研究。研究结果对业务运营中对话日志的应用潜力具有重要影响。
发现论文，激发创造
  • 应用LLMs：ChatGPT和其他模型的调查

    本文提供一个关于使用大型语言模型（LLMs）处理自然语言处理（NLP）下游任务的全面指南，讨论了模型、数据和下游任务等方面的关键问题。同时提供了大量使用案例和非使用案例，以便于实现这些模型在各种NLP任务中的成功应用。

    Apr, 2023

  • 闲聊还是深层讨论：为过程挖掘设计提示工程

    该研究主要探讨了大型语言模型在过程挖掘中的应用，以增强对话代理的能力，并改进了现有解决方案的许多问题，提高了可访问性和代理性能。通过实验验证了该框架在公共问题和数据集上的效果，为进一步探索大型语言模型在过程挖掘中的作用奠定了基础，并提出了改进大型语言模型记忆、实时用户测试和研究多样化数据集的建议。

    Jul, 2023

  • LMSYS-Chat-1M：一种大规模真实LLM对话数据集

    研究了人们在现实世界中如何与大型语言模型进行互动的重要性，介绍了包含25个尖端的大规模语料库，共有100万条来自210K个独立IP地址的真实对话的LMSYS-Chat-1M数据集的内容、统计数据和主题分布，通过四个应用案例展示了其多功能性，并认为该数据集将成为理解和推进大型语言模型能力的有价值资源。

    Sep, 2023

  • 团队协作对话的细粒度分析

    人类协作聊天对话的自然语言分析是一个研究较少的领域，具有许多独特挑战：大量的对话行为标签，任务不明确且动态变化，主题交织，以及长程上下文相关性。本文描述了在软件开发领域中使用Slack聊天数据进行解释性分析工具的初步研究工作，包括生成了一种新颖的分层标记方案，基于对话行为频率设计了描述性指标，以及使用转换器+CRF架构来整合长程上下文的初步结果。

    Dec, 2023

  • 大型语言模型的历史、发展和原理：简介调查

    综述着重探究语言模型的历史背景、发展过程、因素、原理、现有工作的局限以及未来发展方向，为广大读者提供一个可理解的综合概述。

    Feb, 2024

  • 当心言辞：评估会话式大型语言模型的词汇丰富性

    评估使用语言模型生成的文本的词汇丰富性及其与模型参数的相关性。

    Feb, 2024

  • 人类对话是否特殊？基于大型语言模型的观点

    本研究通过分析大型语言模型（LLMs）在理解人际对话时的注意机制变化，对与网络内容、代码和数学文本的三种使用情况进行了分析。研究表明，对话数据具有长期上下文关系的细致处理和通过注意力模式的高复杂性等独特挑战。我们的研究结果显示，虽然语言模型表现出领域特定的注意行为，但在专攻人类对话方面仍存在显著差距。通过详细的注意熵分析和t-SNE可视化，我们展示了训练于多样且高质量对话数据的模型，以提升对人类对话的理解和生成。这项研究强调了语言模型领域专长的重要性，并提出了未来建模人类对话细微差别的途径。

    Mar, 2024

  • 大型语言模型中的人为因素对错误检测的影响：系统文献综述与未来研究方向

    研究对LLM技术中的错误进行风险减轻，并分析和综合研究的结果及未来研究方向。

    Mar, 2024

  • ELITR-Bench：面向长篇对话的语言模型评测

    我们的研究提出了一个新的长文本上下文大型语言模型测试基准，名为ELITR-Bench，侧重于实际的会议助手场景。我们使用271个手工制作的问题和其真实答案来增强现有的ELITR语料库的转录文本，实验结果显示当前公开源代码和专有模型之间在ELITR-Bench上存在差距，尤其是在对话中顺序提问的情况下。我们还对基于GPT-4的评估方法进行了详细分析，包括来自众包研究的见解，发现GPT-4的评估得分与人工评判的相关性较高，但在区分超过三个得分水平时其能力可能受到限制。

    Mar, 2024

  • 大型语言模型解码：社会技术影响、约束与新兴问题的系统概述

    本研究探讨了大型语言模型（LLMs）在自然语言处理和人工智能领域的快速发展，识别其影响、局限性及未来方向。研究提供了LLM发展的责任开发考虑、算法改进、伦理挑战和社会影响的全面概述，强调了其潜在的社会积极影响和伦理问题。

    Sep, 2024