Feb, 2017

基于神经机器翻译的理性化自然语言解释生成方法

PDF
TL;DR介绍了 AI 合理化的方法，将自主系统行为的解释生成为人工行为的样式。使用神经机器翻译将自主智能体的内部状态 - 行为表示翻译成自然语言来描述合理化技术。通过 Frogger 游戏环境对该技术进行评估，训练一个自主游戏代理人，使其使用自然语言合理化其行动选择。结果显示，神经机器翻译能够准确生成描述代理行为的合理化方法，合理化比其他替代方法更能满足人类需要。
ai rationalizationautonomous systemsneural machine translationexplanation generationagent behavior
发现论文，激发创造
  • 自动理由生成：可解释 AI 技术及其对人类感知的影响

    这篇研究论文介绍了自动化理由生成的方法，训练神经理由生成器产生不同风格的理由，并通过两项用户研究验证用户对不同生成的理由的感知。

    Jan, 2019

  • 可解释 NLP 的合理化探索：一项调查

    文章分析了 2007-2022 年间自然语言处理领域合理化 (Rationalization) 技术的发展现状和存在的问题，提出了一种新的可解释人工智能技术领域 Rational AI (RAI) 并讨论未来的研究方向和挑战。

    Jan, 2023

  • 用大型语言模型解释代理行为

    智能代理通过观察状态和行为生成自然语言解释，以理解其行为，从而促进与用户的互动。

    Sep, 2023

  • Few-shot 合理化自我训练：教师解释帮助学生进行 Few-shot NLU

    利用自训练语言模型进行多任务教师 - 学生框架，在有限的任务特定标签和理由下，通过精心选择样本学习信息伪标签示例以及明确合理化预测的特征，显著提高了神经模型的性能，特别在低资源环境中表现出有效性。

    Sep, 2021

  • 远程监督下非单调推理的理性化学习

    研究如何使用先前经过训练的语言模型、神经知识模型和相关任务的远程监督等，通过训练生成解释原因的生成模型来推断自然语言解释。然而，结果表明，由于神经语言模型的基本限制，该模型生成的解释仅限于具有普遍性的陈述，而在进行推理的同时预测更新或其类型和生成理由是更具挑战性的，这是未来的重要方向。

    Dec, 2020

  • 理解代理程序：利用大型语言模型进行行为解释

    基于状态和行为观察生成自然语言解释，不依赖于基础模型的表示，能解释智能代理行为，使用户能够与预训练的大型语言模型进行交互并生成有助于解释与推理的解释。

    Nov, 2023

  • 自然语言引导的强化学习探索

    本文介绍了一种使用自然语言帮助强化学习泛化至未知环境技术的方法，使用编码器 - 解码器网络来学习自然语言行为描述与状态 - 动作信息之间的关联，并使用改进的策略塑造算法来指导智能体探索，从而提高其在未知环境中的学习能力。通过对经典游戏 Frogger 的评价，表明我们的改进策略形态算法在优化学习上优于 Q-Learning 算法和基线策略形态算法。

    Jul, 2017

  • 人类推理是否能提升机器解释能力？

    通过实验表明，利用 sample-based rationales 可提高机器学习系统的分类准确性，我们在此基础上通过 Explanations 对其解释时的表现也得出加强版的 Explanable AI 理论；特别是，我们发现在 CNN-based 文本分类中，利用 supervised attention 相比于 normal 无监督 attention 更优秀。

    May, 2019

  • 通过对话式解释探索 NLP 模型和数据集的 InterroLang

    通过在 NLP 领域中使用具有自由文本理性化功能的对话系统，研究人员对 NLP 任务进行了改进，并通过评估模型性能和用户研究，证明了理性化和特征归因在解释模型行为方面的有效性。

    Oct, 2023

  • 利用原因来提高人类任务表现

    研究了如何设计一个可以帮助人类玩家改善棋类游戏表现的算法，该算法利用机器学习及透明度技术生成 AI 的内部任务模型解释，提供了自动判定和指导用户的决策方法。

    Feb, 2020