Mar, 2023

使用丰富元数据注释对屏幕人物进行个性化语言建模

PDF
TL;DR本文描述了对 Cornell 电影对话语料库中的 863 个发言人进行人工特征标注的方法，这些标注可以用于个性化语言模型，包括特征引用和角色描述，并自动提取了超过 95％的电影的六个 Metadata。实验证明，这些注释可以有效地用于个性化语言模型，可以将语言困惑度降低多达 8.5％。
personalisationlanguage modelsdialogueannotationsperplexity reduction
发现论文，激发创造
  • 利用大型语言模型为主题元数据添加注释：澳大利亚国家研究数据目录的案例研究

    本文介绍了一种基于大型语言模型的上下文学习方法，通过 GPT-3.5 和为主题元数据注释设计的提示，实现了自动元数据注释，在一些类别中表现出有前景的性能。

    Oct, 2023

  • 个性化对话生成与多元特征

    本研究旨在研究将个性特征应用于对话生成中以提供个性化对话的问题，并提出了一种基于关键 - 值对的嵌入式特征融合模块和两种新颖的特征感知机制，即基于对话者的关注机制和基于对话者的偏置机制，并构建了 PersonalDialog 数据集，该数据集包含来自海量讲话者的具有不同特征的大量多轮对话。实验结果表明，所提出的模型能够在不同情境下处理适当的特征。

    Jan, 2019

  • 针对口语对话理解数据的低成本 LLM 注释研究

    自动增强口语对话语料库中的语义表示的研究，评估了大型语言模型微调的相关性、生成注释所捕捉的知识，以及半自动注释的影响。

    Jun, 2024

  • 客户支持对话的对话质量和情绪标记

    本文提出了一种用于情感识别和对话质量评估的整体注释方法，为发展文本分类模型提供了一个独特而有价值的资源，并且显示出需要进一步研究以在实际应用中利用这些模型。

    Nov, 2023

  • 使用注意力记忆网络从对话中学习人物角色

    本研究报道了一种基于神经网络模型的人设推理方法，通过对 IMDB 电影台词的编码和特征表示学习，模型能够有效地根据角色类型实现人设嵌入，并应用于电影角色相似性度量和电影聚类。

    Oct, 2018

  • PersonalityChat: 基于事实和特征的个性化对话建模的会话提炼

    本文利用大型语言模型（LLM）通过个性化对话生成，基于个人特点和人格特质创建了一个合成对话数据集，从而证明了个性化对话模型和与 PersonaChat 相比的表现优势。

    Jan, 2024

  • 元数据可能使语言模型更好

    本文研究了在历史文献收藏品中训练语言模型时加入元数据的好处，通过对 19 世纪报纸的案例研究，扩展了 Rosin 等人 2022 年提出的时间遮蔽方法，并比较了将时间、政治和地理信息插入蒙版语言模型中的不同策略。实验证明，向语言模型展示相关元数据具有积极的影响，并可能产生更健壮、更公正的模型。通过在一系列评估任务上进行系统评估，包括伪困惑度、元数据蒙版填充和监督分类。

    Nov, 2022

  • 元学习个性化对话代理

    本篇论文提出基于模型无关元学习的个性化对话学习方法，不需要使用人称描述符。该模型通过仅利用从同一用户收集的几个对话样本来快速适应新的人称，与基于人称描述符的回复不同。实验结果表明，相对于非元学习基准，该解决方案在自动评估指标和人工评估的流畅性和一致性方面表现更好。

    May, 2019

  • 超级提示：利用模型无关的语境数据减少视觉常识任务中的数据注释需求

    本文研究如何使用 Prompt-based Fine-tuning 技术提高语言模型和多模式因果变换器模型的效果，结果表明使用只有 35%-40% 的训练数据集便能取得可比较的效果，从而达到显著的时间和费用节约。

    Apr, 2022

  • 利用自然语言推断优化新领域内对话中的个人特征提取

    我们介绍了一种自然语言推理方法，用于事后将训练好的角色提取模型适应于新的场景，与现有的角色提取模型相比，我们的方法可以提供更高质量的角色提取结果，并需要较少的人工标注。

    Jan, 2024