Jun, 2023

人类参与下的新颖性生成

PDF
TL;DR介绍了一种使用抽象环境模型的新颖性生成方法，不需要特定领域的人为指导即可生成更多的新颖性，然后采用人类的辅助选择和过滤这些生成的新颖性，并在 Monopoly 和 VizDoom 领域中测试了该方法的结果。
artificial intelligencenovelty generationtesting frameworkshuman-in-the-loopsimulation domains
发现论文，激发创造
  • 高保真模拟开放世界中的新颖性适应多智能体规划

    本文旨在探索如何让自主智能系统在真实世界的环境中适应、解决并执行计划，针对其中出现的未知问题和新的情况需要进行建模和检测。

    Jun, 2023

  • 对抗环境中交互创新处理的方法和机制

    本文介绍了一种应对开放性场景中新颖性挑战的方法，该方法结合了逻辑表示和推理方法，利用通用方法和架构机制检测、表征新颖性，并构建相应的适应性模型进行应对。通过在多智能体博弈中的评估，结果表明所提出的方法在各种新颖性挑战下均表现出高准确率。

    Feb, 2023

  • Trick Me If You Can: 人工辅助生成问答对抗样本

    通过通过人类作者的参与识别并铸造对抗性问题，我们揭示了机器学习模型在自然语言理解上面临的复杂多样化挑战，包括多跳推理和实体类型干扰。

    Sep, 2018

  • 生成人工智能的创新前沿：管理新颖性和实用性的平衡

    本文通过人类创造力文献的启示，探索生成人工智能系统中新奇和实用之间的最佳平衡，提出了包括领域特定分析、数据和迁移学习、用户喜好和定制、自定义评估指标和协作机制在内的框架，旨在在特定领域内生成既新颖又有用的内容。

    Jun, 2023

  • 人机交互的机器创造力

    该研究探讨了在艺术创作中将人类专业知识与 AI 模型相结合，以实现更具表现力、细腻和多模态的生成作品的方法，并提出 Human-in-the-Loop 的设计，以增加人类与 AI 之间的互动，从而帮助未来的 AI 系统更好地理解我们自己的创造和情感过程。

    Oct, 2021

  • 军事领域中的新颖性特征

    研究 AI 代理人的鲁棒性来应对新奇环境，DARPA 的 SAIL-ON 计划致力于开发必要的科学来评估代理人的鲁棒性，同时利用实验室实验中使用的技术来衡量代理人检测、表征和适应新奇性的能力。

    Feb, 2023

  • 基于人机互动的智能体无关强化学习

    本论文探讨了一种 agent-agnostic 模式的 Human-in-the-Loop 强化学习教学方案，以期将人类教师的有益特性融入强化学习中，同时试验了在简单领域中应用 action pruning、reward shaping 和 training in simulation 等已有方法并将其表现为本模式的特例。

    Jan, 2017

  • 顺序实验中的协同智能：药物发现的人机交互框架

    药物研发是一个复杂的过程，本文介绍了一种人工智能与人类专家知识相结合的人机协作框架，用于药物研发中的顺序实验，以提高针对目标分子的发现效率。研究结果表明，这种框架能够有效加速新疫苗和药物的开发，充分利用人类专家和人工智能的优势。

    May, 2024

  • 多模态会话任务引导系统中的人类参与方法

    本文讨论了人类在指定任务中使用应用程序所面临的挑战，提出了任务引导系统的发展需要寻找信息检索和会话系统来帮助任务的执行者，并针对现有数据集开发了一个基于 Wizard-of-Oz 的数据收集工具，进行了初步实验。

    Nov, 2022

  • 一种新颖性形式理论的统一框架：框架、样例和讨论

    通过团队自身所遇到的不确定性问题，本研究针对 AI 在处理 novelty（新颖性）问题时的困难，提出了第一个统一的框架，并且给出了公式化的定义方法，以适用于多个领域。该框架填补了相关领域的研究空白，并有助于推动该方向的研究进展。

    Dec, 2020