辩论作为优化：适应性合规预测和多样化检索用于事件抽取

Jun, 2024

辩论作为优化：适应性合规预测和多样化检索用于事件抽取

Debate as Optimization: Adaptive Conformal Prediction and Diverse Retrieval for Event Extraction

Sijia Wang, Lifu Huang

TL;DR我们提出了一个多智能体辩论作为优化的事件提取系统，通过辩论而无需参数调整来迭代改进大型语言模型的输出。在该系统中，我们引入了两个新模块：Diverse-RAG 模块和 Adaptive Conformal Prediction 模块。实验结果表明，相对于有监督方法和无需调参的基于大型语言模型的方法，在 ACE05 和 CASIE 事件检测以及论证提取方面，性能差距分别降低了 18.1％和 17.8％以及 17.9％和 15.2％。

Abstract

We propose a multi-agent debate as optimization (DAO) system for event extraction, where the primary objective is to iteratively refine the large language models (LLMs) outputs through debating without parameter tuning. In DAO, we introduce two novel modules: the Diverse-RAG (DRAG) mod

multi-agent debate as optimization event extraction large language models diverse-rag module adaptive conformal prediction module

发现论文，激发创造

阿波罗的神谕：多智能体辩论中的检索增强推理

多智能体辩论系统在对抗性交互中通过准确和一致的结论设计，然而这些系统常常面临认知限制的挑战，这表现为（1）代理的顽固坚持错误观点和（2）他们放弃正确观点的倾向。为了解决认知限制的挑战，我们引入了一种新的框架，多智能体辩论与检索增强（MADRA）。MADRA 将先前知识的检索融入辩论过程，有效打破认知限制并增强代理的推理能力。此外，我们在该框架内开发了一个自选择模块，使代理能够自主选择相关证据，从而最小化无关或噪音数据的影响。我们在六个不同数据集上进行了全面的测试和分析，实验结果表明我们的方法显著提高了各种任务的性能，证明了我们的方法的有效性。

Dec, 2023

学习澄清：基于行动对比自我训练的多轮对话

Action-Based Contrastive Self-Training (ACT) is a quasi-online preference optimization algorithm that improves conversation modeling in large language models (LLMs), particularly in the area of disambiguation and dialogue policy learning.

May, 2024

自适应 - RAG: 通过问题复杂性学习适应检索增强大型语言模型

本研究提出了一个新颖的适应性问答框架，可以根据查询的复杂性动态选择最合适的策略，该策略可在回答问题时无缝地在迭代和单步检索增强型大型语言模型之间进行调整，同时适应多种查询复杂性，提高问答系统的效率和准确性。

Mar, 2024

使用动态准则改进自回归训练

为解决 NLP 任务中的暴露偏差和指标不匹配问题，本文提出了一种基于动态预示算法的解决方案，并开发了新型的动态预示算法，证明其在类似基于跨度的 F1 指标上保持了 DAgger 的无遗憾保证。作者评估了该算法在命名实体识别、文本摘要和机器翻译等任务中的性能，在机器翻译实验中，DAgger with dynamic oracle 的结果不如基准技术，但在命名实体识别和文本摘要方面表现优秀。

Jun, 2024

多代理辩论对抗对抗攻击

通过多代理辩论和嵌入式聚类，我们研究了现代语言模型在对抗性攻击和多代理环境下的表现，并发现多代理辩论可以减少模型的有害性，并改善对不同类型攻击主题的抵抗能力。

Jan, 2024

自适应查询重写：通过会话答案的边际概率对齐重写器

AdaQR 是一个框架，用于训练具有有限重写注释和完全没有段落标签的查询重写模型，通过从种子数据集中只使用～10% 的重写注释进行微调精简大型语言模型，然后利用这些模型为每个查询实例生成重写候选，并通过条件概率对这些候选进行检索者权重评估，这被用作优化重写器的奖励，进一步使用直接偏好优化 (DPO) 的过程进行优化，实验结果表明 AdaQR 不仅增强了具有有限注释要求的领域内重写器的功能，而且有效地适应了领域外数据集。

Jun, 2024

一种语义提及图增强的文档级事件论元抽取模型

本研究提出了一个语义提及图增强模型，通过构建语义提及图来解决文档级事件论证抽取中的两个问题，并将关系特定的图融入到预训练语言模型的输入嵌入中，通过拓扑信息优化编码部分，从而全面增强关系，并在实验中取得了超越基线方法和达到新的最先进性能的结果。

Mar, 2024

关于使用 Pólya-Gamma 扩充方法对话检索模型的校准与不确定性

作者提出了一个有效的 PG-DRR 框架来解决深度神经网络不可靠的预测问题，该框架在保持相同性能的情况下，通过添加高斯过程层和拆分 Pólya- Gamma 扩张来实现对对话响应检索模型的可靠度和不确定性估计。

Mar, 2023

超越单事件提取：迈向高效的文档级多事件论证提取

提出了一种多事件论证提取模型 DEEIA (Dependency-guided Encoding and Event-specific Information Aggregation)，该模型能够同时从文档中提取所有事件的论证，并能够在四个公共数据集上达到最新的最佳性能，并显著节省推理时间。

May, 2024

检索辅助的音频深度伪造检测

使用检索增强的检测框架，基于语音合成和深假声音技术，以及 ASVspoof 2021 数据集的实验结果，改进了深假声音检测方法，并提升了检测性能。

Apr, 2024