Jan, 2024

迈向优雅互动：执行动作对解决指令澄清请求的政策建模的影响

HTML
PDF
TL;DR在这项研究中测试了关于行动接收作为辅助任务对建模iCR策略的影响的三个假设，并得出结论认为其对学习iCR策略的贡献有限，但仍然可以从预测不确定性中提取一些信息。同时，发现即使是经过深思熟虑的基于Transformer的模型也难以学习何时提出问题的良好策略，但是在确定提问内容方面可以取得更成功的建模。考虑到这些发现的意义，我们进一步讨论了数据驱动范式在学习元沟通行为方面的不足。
发现论文，激发创造
  • 多模态协同对话游戏中的指令澄清请求：任务和CoDraw数据集分析

    本文提出了一个新方法，即在多模态协作对话游戏中注释说明澄清请求，并使用此数据集为基础，展开了数据驱动的说明研究，探索了何时提出说明澄清请求以及如何互相认识它们的能力。

    Feb, 2023

  • 这样走！学习将参照表达转化为行动，并从支持性教师中获得内部情节反馈

    本文研究在协作环境中，利用“分级算法”等符号算法生成提问语句，并在任务中提供“迭代情节反馈”，从而增强机器学习模型与人类的自然交互能力。研究发现，提供“迭代情节反馈”有助于模型在处理复杂情景中的泛化能力，并提高模型表现。

    May, 2023

  • CoDraw数据集中指令澄清请求的内容导向注释：你让我给狗戴眼镜？

    本文介绍了CoDraw-iCR(v2)，该数据集可以作为模型和评估对话代理的修复能力的标准，提供了细粒度的信息，包括基础对话游戏项和可能的操作。

    Jun, 2023

  • 探究强化学习在任务倡导设置中的通信策略

    在一个参考沟通任务中，我们利用模拟研究了系统在针对用户提供细致信息时的互动策略，分析了用户澄清策略对初始呈现和后续跟进之间的沟通权衡，并比较了几种基线策略和强化学习导出的策略的性能。我们发现，基于连贯性的对话策略具有令人惊讶的优势，它们需要最少的数据，可以解释选择，并具有强大的审核能力，但在各种用户模型下预测结果的损失很小。

    Aug, 2023

  • 从语言建模到指令遵循：理解指令调优后LLMs的行为转变

    通过本研究，我们发现指导微调对大型语言模型产生了三个重要影响，包括了对指令识别的加强、对知识存储层次的对齐以及对单词关系学习的促进。这些发现有助于更深入地理解指导微调对大型语言模型行为变化的影响，并为未来解释和优化这些模型以适用于不同应用领域的研究打下了基础。

    Sep, 2023

  • 注意指令：基于提示的学习中一致性和交互的整体评估

    通过系统、全面的评估，本研究发现预训练语言模型的适应任务方式中的设计选择会造成不稳定性和不一致性的问题，并指出在大多数场景中应该避免或小心处理哪些因素。

    Oct, 2023

  • 关于元提示

    使用类别论的理论框架来描述和推广统计模型中的元提示方法，研究发现元提示方法在创意和构思领域的应用比基本提示方法更有效。

    Dec, 2023

  • 元提示：用任务无关的支架增强语言模型

    通过引入元提示技术，将单个语言模型转变为多面手指挥者，通过高级指示将复杂任务分解为可管理的子任务，从而提高语言模型的综合性能。元提示方法的任务无关性大大简化了用户交互，而与Python解释器等外部工具的无缝集成扩展了其适用性和实用性。在GPT-4上进行的实验表明，相比传统的支架方法，使用元提示技术在所有任务上平均效果提高了17.1%，动态支架方法提高了17.3%，多身份支架方法提高了15.2%。

    Jan, 2024

  • 关于用监督学习建模元交际基础行为的局限性

    参与主动对话对于建立共同基础至关重要，因为理解是由发出者和接收者共同塑造的；偷听者无法执行基础行为，只能猜测意图，数据生成、注释、建模、训练和评估自然语言处理对话模型仍依靠这种偷听范式，然而，正如我们展示的那样，有证据表明无法通过数据驱动的学习模型来正确地建模人类元交际行为，本文讨论了这个问题，并对人类在请求澄清方面的决策变化进行了初步分析，最重要的是，我们希望将这个主题重新提到社区的议程中，鼓励关于仅设计为“偷听”的模型后果的讨论。

    May, 2024

  • 元反省：利用过去反思学习语言代理的指令

    利用自我反思的模型生成语言反馈，METAREFLECTION技术能够学习特定领域的通用提示指令并提高大型语言模型的效率。在基础设施即代码漏洞检测和问答方面，METAREFLECTION相对于GPT-4表现出16.82%（IAC）、31.33%（COT）和15.42%（REACT）的显著改进。

    May, 2024