Feb, 2024

个性化大型语言模型

PDF
TL;DR该研究探讨了个性化调整和零 - shot 推理方法在主观任务上的应用，结果表明，与非个性化模型相比，个性化调整能够提高模型的推理能力，并在不同的大语言模型架构上实现了对情感识别和仇恨言论检测等数据集的一致性性能提升，这些发现凸显了个性化对于增强大语言模型在主观文本感知任务中的重要性。
large language modelspersonalizationfine-tuningzero-shot reasoningsubjective text perception tasks
发现论文，激发创造
  • 针对专门的情感识别任务定制通用的大型语言模型

    通过使用大型语言模型，在情感识别领域中研究了 LLMs 的性能，发现其在语言情感识别任务中具有强大的迁移性和可行性。

    Oct, 2023

  • 大型语言模型程序

    通过使用嵌入式算法来扩展预训练语言模型的能力，作者提出了一种证据支持的问答方法来展示这种方法的优势，相比于传统的 fine-tuning 方法，该方法获得了 6.4％的改进。

    May, 2023

  • 提升大型语言模型性能以更准确地回答问题和提取信息

    通过精调模型和对称相似度、LLM 评估和 Rouge-L 分数等指标的连续反馈循环来提高人工智能模型，利用金融数据集和检索增强生成技术 (RAG)，证明精调模型在问题回答能力方面能够超越零 - shot LLMs 的准确性。

    Jan, 2024

  • 个性化和可解释推荐的大型语言模型调查

    最近几年，推荐系统 (Recommender Systems) 在自然语言处理 (Natural Language Processing) 领域迎来了巨大的变革，得益于大型语言模型 (Large Language Models) 的出现。这些模型，如 OpenAI 的 GPT-3.5/4 和 Meta 的 Llama，在理解和生成类似人类的文本方面展示了前所未有的能力，从而在个性化和可解释性推荐领域引发了范式转变，因为大型语言模型提供了处理大量文本数据以增强用户体验的多功能工具集。为了全面了解现有的基于大型语言模型的推荐系统，本综述旨在分析推荐系统如何从大型语言模型的方法中受益。此外，我们还描述了个性化解释生成 (Personalized Explanation Generating) 任务中的主要挑战，包括冷启动问题、公平性和偏见问题。

    Nov, 2023

  • LaMP: 大型语言模型与个性化的相遇

    本文介绍了个性化对于自然语言理解和生成的重要性，并引入了 LaMP 基准测试 - 一种用于训练和评估用于生成个性化输出的语言模型的新基准测试。LaMP 提供了一个包含多样化语言任务和每个用户配置文件的多个条目的全面评估框架。它由七个个性化任务组成，横跨三个分类任务和四个文本生成任务。我们还提出了一种检索增强方法，该方法从用户配置文件中检索个性化项，以构造大型语言模型的个性化提示。我们的基线零 - shot 和微调模型结果表明，利用配置文件增强的 LM 优于不考虑配置文件信息的其同类。

    Apr, 2023

  • 将大型语言模型应用于内容审核：数据工程和监督微调中的陷阱

    介绍如何微调一种可以私下部署用于内容审核的大型语言模型，并讨论在微调过程中是否融入原因会更好，以及利用更强大的语言模型生成的原因对私下部署模型进行微调的好处和处理不正确答案时的不同处理方法。向研究人员提供有价值的经验。

    Oct, 2023

  • 大语言模型时代的推荐系统

    本论文对基于大型语言模型（LLMs）的推荐系统进行了全面综述，总结了 LLMs 在推荐系统中的应用方法，包括预训练、微调和提示，并讨论了未来方向。

    Jul, 2023

  • 大型语言模型的经济性权衡：一个案例研究

    使用大型语言模型（LLMs）辅助人类客服代理商自动生成现成或有改动的响应已成为许多公司降低雇用客服代理商成本的方式。本文通过使用成本框架评估一个 NLP 模型的实用性，将其应用于特定品牌的案例研究并比较三种 LLM 的专业化策略，发现模型的响应可用性可以补偿推理成本的巨大差异，并将研究结果推广到更广泛的企业领域。

    Jun, 2023

  • 当大型语言模型遇见个性化：挑战和机遇的视角

    大型语言模型在个性化中的应用、挑战和潜在利用方式的讨论。

    Jul, 2023

  • 大型语言模型可自我提升

    本文提出了一种方法，使用未标注的数据进行自我训练和推理提高，通过 fine-tuning 在多个任务上达到了 SOTA 水平。

    Oct, 2022