Sep, 2024

动态设备上大型语言模型的自适应自监督学习策略

HTML
PDF
TL;DR本研究解决了大型语言模型在个性化应用中对用户偏好的适应性不足问题。提出的自适应自监督学习策略（ASLS）利用自监督学习技术，结合用户交互数据和实时模型微调，能够持续学习用户反馈，提高个性化效率。实验结果表明，ASLS在增强用户参与度和满意度方面表现出色，具有重塑大型语言模型的潜力。
发现论文，激发创造
  • 基于记忆增强的LLM个性化学习，短期和长期记忆协调

    通过使用参数高效的微调模式和计算仿生记忆机制，我们提出了一种新颖的个人化大语言模型方法，该方法在用户导向的生成任务中展示了卓越的效果和优越性能。

    Sep, 2023

  • 通过自监督的数据选择和合成实现设备端大规模语言模型个性化训练

    通过提出一种新的框架来选择和存储在线上最具代表性的数据，本文解决了在设备上进行个性化的大型语言模型优化的问题，考虑了稀疏标注和有限的设备存储空间。

    Nov, 2023

  • 用户-LLM: 基于用户嵌入的高效LLM语境化

    利用用户嵌入来上下文化大型语言模型，实现显著性能提升。

    Feb, 2024

  • HYDRA: 黑盒LLM个性化的模型分解框架

    通过模型分解与知识捕捉，HYDRA提供了一种个性化生成的解决方案，实现了用户特定行为模式与共享知识的结合。在LaMP基准测试中，HYDRA相对于现有的基于提示的方法平均相对改进9.01％。

    Jun, 2024

  • 在资源受限的边缘设备上部署LLMs的实践指南

    通过对学习方法、个性化数据使用量、语言模型的类型和大小、压缩方法以及学习时间和目标用例难度之间的权衡进行实证研究，我们找到了一些用于将语言模型部署到资源受限设备上的指导方针。

    Jun, 2024

  • Crayon: 基于即时适配混合与边缘-服务器混合推理的定制化设备本地概率有限状态机

    在移动设备上进行大型语言模型的定制化是一个重要问题，本文提出了一种名为Crayon的方法，通过构建多样化的基础适配器，并将它们融合成一个定制化适配器，从而在不额外训练的情况下实现在移动设备上进行语言模型定制化，此外，本文还开发了一种设备-服务器混合推理策略，可在服务器上处理更复杂的查询或非定制任务，保证了最佳性能和在移动设备上进行定制化的优势。通过建立了一个新颖的基准测试集，本文展示了该方法在语言模型定制化方面的有效性。

    Jun, 2024

  • 不同个性化的协同LML构建

    这篇论文提出了一种新颖的方法，用于将大型语言模型（LLMs）与个人偏好进行匹配，有时被称为个性化人工反馈的强化学习（RLPHF）方法。通过合并多个专门训练在特定偏好维度上的专家LLMs的输出，使用黑盒方法在标记级别上生成文本，并通过训练轻量级偏好控制模型（PCM）动态地调整下一个标记的预测权重，从而优化给定的偏好。实证测试表明，该方法与现有的偏好合并技术相匹配甚至超过，提供了一种可扩展的、高效的用于个人化的LLMs微调的替代方法。

    Jul, 2024

  • 利用智能手机传感实现设备上的个性化LLMs

    通过将设备端大型语言模型与智能手机传感技术相结合，提供上下文感知和个性化服务的新型端到端框架解决了当前云端个性化解决方案的隐私、延迟、成本和有限个人传感数据方面的关键限制，并通过上下文感知实现了隐私保护和个性化性能的提升。

    Jul, 2024

  • 基于设备的语言模型：全面评述

    本研究针对设备受限环境下运行大型语言模型（LLMs）面临的挑战进行了深入分析，提出了高效架构及压缩技术等创新解决方案。研究发现，通过硬件加速和边缘云协作方式，可以在性能与资源利用之间实现微妙平衡，为未来基于设备的智能计算发展提供了重要指导。重要性在于解决资源限制问题，同时实现个性化和适应性学习。

    Aug, 2024

  • 个人化大型语言模型：根据个体偏好定制LLM

    本研究解决了个性化LLM交互中缺乏对用户独特偏好的适应性的问题。通过构建PersonalLLM数据集，该研究提出了一种基于多样化激励模型的方法，以模拟用户的异质性偏好，推动个性化算法的发展。最重要的发现是，该方法能够有效利用相似用户的历史数据来应对数据稀疏性挑战，为个性化LLM提供了创新的测试平台。

    Sep, 2024