Jun, 2023

DR-HAI：基于辩证法的人工智能交互中的论证调和

PDF
TL;DRDR-HAI 框架是用于增强人工智能交互的一种基于论证的新型框架，具有多发性协调范式，并不预设人类用户的模型，实现了可交互式协调，以解决解释者和被解释者之间的知识差异。研究结果表明 DR-HAI 是促进有效人机交互的一种有前途的方法。
dr-haiargumentation-based frameworkmodel reconciliationhuman-ai interactionexplainable ai planning
发现论文，激发创造
  • 在基于论证的对话中逼近人类模型

    通过论证式对话的方式，我们提出了一个新的框架，使得 AI 代理能够学习和更新概率性的人类模型，从而更好地理解人类的思维状态，通过人类对其论点的信任和对自己论点的确信程度，调整概率分布，并在论证场景中的人类主体研究中证明了该方法捕捉了人类信念形成和适应的动态过程。

    May, 2024

  • 走向人工智能和人类共同推理与价值统一的对话

    我们认为，支持人工智能对话能够实现联合推理（即 “询问”），对于确保人工智能决策符合人类价值观和偏好非常重要。我们特别指出，基于逻辑的辩论和对话模型以及关注于劝说对话的传统方法应该改为关注于询问对话，并阐述了联合询问所带来的不同挑战。鉴于大规模语言模型（LLMs）性能的最新技术突破和预计在决策制定中它们的使用将增加，我们提供了一项研究路线图，以支持联合人工智能语言模型推理任务，并确保决策与价值观相一致的伦理关注。

    May, 2024

  • 通过辩论交流解决冲突的交互式解释

    本研究针对可解释人工智能（XAI），提出了一种计算论证的交互式解释方法（AXs），以解决模型输出与人类决策之间的不一致性。实验结果表明，AXs 在 XAI 中可以有效地解决不当行为和决策冲突。

    Mar, 2023

  • AI 在线辩论手册第三卷

    该论文是 Online Handbook of Argumentation for AI 的第三卷，主要阐述了论证的形式理论、计算模型以及其在人工智能领域中应用，旨在为论证研究人员提供开放访问和策划出版物。

    Dec, 2022

  • 人工智能在线辩论手册：第四卷

    该论文总结了关于人工智能中论证和辩论的理论和应用的最新研究进展。

    Dec, 2023

  • 人工智能相互作用在人机交互界面设计中的新应用

    探讨了人类意识到的机器智能（human-aware AI）如何应用于人机交互（HRI），从观察时序设计算法，真正改变了人们对人工智能和科学研究的看法。

    Oct, 2022

  • 论述型可解释人工智能：一项调查

    本文综述了利用计算论证方法建立的可解释 AI 方法，重点关注其不同类型的解释，使用的不同模型，不同交互方式和不同的论证框架。此外，我们还规划了未来的发展方向。

    May, 2021

  • AI-HRI 2021 论文集

    本文介绍了自 2014 年以来人工智能与人机交互研究会的历次会议，并讨论了其研究重点和主题，包括关于信任、XAI、服务机器人以及互动学习等。在 AR 和 VR 的新趋势下，特别鼓励提交不含物理机器人的评估研究，并阐述了在 HRI 中道德问题的考量。

    Sep, 2021

  • 面向决策的人工智能协作对话

    研究了对话决策问题的一个类别，其中 AI 助手与一个或多个人通过自然语言协作，帮助他们做出复杂的决策。为不同的任务建立了对话环境，并使用这些环境收集了人与人的对话作为基线，同时提出了模型在决策导向的对话中面临着一些挑战，并释放了环境作为未来建模工作的测试基地。

    May, 2023

  • 在高风险环境中指导人类学习

    本文研究 AI 辅助决策的团队决策，在考虑决策者面临的协同成本、不完美的算法决策等限制条件下，研发了人工智能团队学习框架和 TeamRules 算法，可提供有针对性的决策建议并在处理协同成本和团队准确性之间的平衡上产生显著的效果

    Oct, 2022