Apr, 2024

探索基于人工智能的合成人物的增强和认知策略

PDF
TL;DR大型语言模型（LLMs）作为数据增强系统在人机交互研究中可用于创建合成人物，以解决黑盒特性和幻觉倾向带来的挑战，并提出了发展鲁棒性认知和记忆框架以指导 LLM 响应的构想。初步探索表明，数据丰富、情景记忆和自我反思技术可以提高合成人物的可靠性，为人机交互研究开辟新途径。
large language modelshci researchsynthetic personaedata augmentation systemscognitive and memory frameworks
发现论文，激发创造
  • 关于使用大型语言模型创建合成人物时存在的偏见的担忧

    该研究通过使用生动事例来展示黑盒大型语言模型中的偏见存在和调控方法，探索了合成人设在人机交互研究中的益处、不足和伦理考虑，强调在利用这些模型进行合成人设创建前的全面测试的必要性。

    May, 2024

  • 模拟专家角色引导场景：一种执行认知工作的卓越策略

    该研究使用大型语言模型 (Large language models) 和模拟人物 (Simulated personae) 来强化人类常识与认知，展现专家行为的力量，其中包括挑战 LLM 回应的准确度以及复现量子光学领域的最新研究结果。

    Jun, 2023

  • 明示和隐示的大型语言模型角色生成意见，但无法复制更深层次的认知和偏见

    通过以人类为模版的角色对大型语言模型进行提示和回答问题，我们研究了这种模型在主观注释任务和信念生成任务中的表现，结果显示大型语言模型在模拟已知的人类偏见方面存在不同的结果，但在表现隐含的偏见方面通常未能达到预期。我们得出结论，大型语言模型缺乏人类思维的内在认知机制，虽然能够捕获人们言语的统计模式，但在复杂社会科学应用中可能限制其效果。

    Jun, 2024

  • 面向大型语言模型的社交错误解决方案：基于 HCXAI 的方法

    将社会透明性框架扩展至大型语言模型，以解决其在敏感领域如心理健康方面可能带来的社会错误归因和情感操纵等问题，并通过引入第五个问题来促进其设计者和用户之间对于社会归属的明确理解，以促进以伦理负责的方式开发和使用基于大型语言模型的技术。

    Mar, 2024

  • 使用 10 亿个虚拟角色进行合成数据创建的扩展

    我们提出了一种新颖的以人设为驱动的数据合成方法，利用大型语言模型中的各种观点来创建多样化的合成数据。为了在规模上充分利用这种方法，我们引入了 Persona Hub—— 一个从 Web 数据自动筛选得到的 10 亿多样化的人设集合。这 10 亿个人设（相当于世界总人口的 13%），作为传播世界知识的分布式载体，可以利用 LLM 中所囊括的几乎每个观点，从而促进在各种场景中大规模创建多样化的合成数据。通过展示 Persona Hub 在合成高质量的数学和逻辑推理问题，指令（即用户提示），知识丰富的文本，游戏 NPC 和工具（函数）的使用案例，我们证明了以人设为驱动的数据合成是多功能、可扩展、灵活且易于使用的，有潜力推动合成数据创建和实际应用中的范式转变，可能对 LLM 的研究和发展产生深远影响。

    Jun, 2024

  • 从语言模型到实用的自我改进计算机代理

    我们开发了一种简单直接的方法，可以创建能够执行多种计算机任务并通过开发工具和扩展自身能力来自我改进的 AI 计算机代理。

    Apr, 2024

  • 机器辅助混合方法：用人工智能增强人文社科研究

    利用大型语言模型 (LLMs) 的增强功能，扩展人文社会科学领域的数据分析，用于量化、自动化以前需要人工进行的定性分析任务。本文提出了一种系统的混合方法框架，结合了定性分析专业知识、机器可扩展性和严格的量化分析，同时注重透明度和可复制性。通过 16 个机器辅助案例研究作为概念验证，展示了该框架的应用，涉及的任务包括语言和话语分析、词汇语义变化检测、访谈分析、历史事件因果推断和文本挖掘、政治立场检测、文本和思想重用、文学和电影的流派构成、社交网络推断、自动词典编纂、丢失的元数据补充以及多模态视觉文化分析。与现有 LLM 应用文献的英语重点不同，这里的例子涉及较小语言和易于数字化失真的历史文本场景。除了需要专业知识的最困难的任务外，生成 LLMs 可以作为可行的研究工具。LLM (和人工) 标注可能包含错误和变化，但协议率可以在后续统计建模中考虑；文章还讨论了一个引导式方法。案例研究的复制实验证明，以前需要团队努力和复杂计算管道才能完成的任务，现在可以由辅助 LLM 的学者在更短的时间内完成。重要的是，这种方法旨在增强研究者的知识和技能，而不是取代它们。鉴于这些机会，定性专业知识和提出有深度问题的能力无疑变得更加关键。

    Sep, 2023

  • 大型语言模型中幻觉缓解技术的综合调查

    这篇论文综述了 32 种技术，旨在减轻大型语言模型中的幻觉问题，其中包括检索增强生成、知识检索、CoNLI 和 CoVe 等方法，并提出了基于数据集利用、常见任务、反馈机制和检索器类型等参数的分类方法，以区分专门设计用于解决大型语言模型幻觉问题的各种方法。此外，还分析了这些技术中存在的挑战和局限性，为未来研究提供了坚实的基础。

    Jan, 2024

  • 生成人工智能用于合成数据生成：方法、挑战与未来

    该论文探讨利用巨大的大语言模型生成特定任务训练数据的先进技术，介绍了方法论、评估技术和实际应用，并讨论了当前的限制和未来研究的潜在路径。

    Mar, 2024

  • 增强基于 SLM 的思维能力的认知增强

    通过使用认知增强的方法，我们的实验显示在应用于网络安全应用中时，较小的大型语言模型（SLM）的性能显著提高，这为进一步研究认知增强优化 SLM 打下了基础。

    Apr, 2024