EMNLPJan, 2022

部署后记忆辅助提示编辑以改进 GPT-3

PDF
TL;DR利用用户交互纠正 GPT-3 模型的错误，而无需进行重新训练。本文中提出了将 GPT-3 与一个不断增长的记录案例和用户反馈的记忆相结合的方法，以产生一个可查询该记忆进行错误纠正的系统。通过证明方法可以增强大型预训练语言模型的实用性，特别是在与用户交互时，已经部署的 GPT-3 的准确性可以得到大幅提高。
large lmsgpt-3user interactionserror correctionmemory
发现论文，激发创造
  • 提示大型语言模型进行类比生成：InstructGPT 案例研究

    该研究运用预训练语言模型引导生成类比，通过分析特定引导提示类型、温度及注入拼写错误等变化对生成效果的影响，得出最佳引导提示类型应为精准的命令性语句，并评估出模型的性能，发现最大的 InstructGPT 模型可以在某些任务上实现人类级别的性能。

    Oct, 2022

  • 对 GPT-3 在语法错误修正方面的性能分析

    本文通过实验分析 GPT-3 文本模型在语法纠错任务（GEC）上的性能，比较了不同提示方式下的表现，使用自动度量和人为评估的结合揭示了人类评估者与基于参考的自动度量之间的有趣差异。

    Mar, 2023

  • 可靠性检查：对 GPT-3 在敏感话题和提示措辞方面响应的分析

    研究分析了大型语言模型对敏感主题的反应和提示措辞对模型反应的影响，结果显示 GPT-3 在肯定的阴谋论和刻板印象方面反应正确，但在常见的错误观念和争议方面则会出现错误，暴露出其不可靠性。

    Jun, 2023

  • 大型语言模型的提示式编程：超越少样本范式

    使用 GPT-3 模型分析得出少量样例引导更接近于已学习的任务，本文探讨使用自然语言编程来优化引导，提出元引导概念后能够生成更多的任务自然语言引导，展望这些方法如何应用于实践应用。

    Feb, 2021

  • 基于记忆增强的 LLM 个性化学习，短期和长期记忆协调

    通过使用参数高效的微调模式和计算仿生记忆机制，我们提出了一种新颖的个人化大语言模型方法，该方法在用户导向的生成任务中展示了卓越的效果和优越性能。

    Sep, 2023

  • 机器心理学：大型语言模型预测人类记忆

    通过测试 ChatGPT 在语言记忆任务中对人类表现的预测能力，研究发现 ChatGPT 和人类的表现有惊人的一致性，尽管它们的内部机制可能存在显著差异，这一发现强调了生成型人工智能模型在准确预测人类表现方面的潜力。

    Mar, 2024

  • WebGPT: 借助浏览器进行问题回答并获得人类反馈

    在文本浏览环境中使用 GPT-3 进行长篇问题回答的模型训练，通过模仿学习和人类反馈优化答案质量，并使用 ELI5 数据集对模型进行评估和训练，最佳模型通过行为克隆和逆向采样获得，最终得到的答案比 Reddit 上评分最高答案及人类演示者的答案更受人类用户喜欢。

    Dec, 2021

  • 促进 GPT-3 的可靠性

    本研究为了提高 OpenAI GPT-3 的可靠性，将其可靠性分解为四个方面：泛化性、社会偏见、校准性和事实性，并建立了简单有效的提示来提高其可靠性。通过适当的提示，GPT-3 在所有这些方面都比规模较小的监督模型更可靠。

    Oct, 2022

  • 监督式提示训练

    通过使用监督性提示训练（Supervisory Prompt Training）方法，我们提出了一种新颖的方法，可以自动地生成高效的提示，从而提高大型语言模型（LLMs）的性能和减少幻觉，为传统的模型微调提供了一种高效且可扩展的替代方案。

    Mar, 2024

  • 基于算法问题的 GPT-4 评测：对提示策略的系统评估

    GPT-4 在具有可控问题难度的三个算法任务中通过先进的提示技术展现了优越的准确性，证明了先进的大型语言模型在需要系统化泛化的挑战性任务中具备很强的基准性能。

    Feb, 2024