Mar, 2021

评估自动建议对决策的影响：领域专家调节模型错误但采取较少主动

PDF
TL;DR本文研究在临床记录上添加自动标记的影响，发现专家用户对于何时依靠自动处理和何时依靠自己的判断有建立信心的直觉，但当提供全自动处理时，这些用户表现出比较低的自主性和更容易接受错误的提议。
automated decision supportannotating clinical textsclinical conceptslabelsautomation
发现论文，激发创造
  • 专家领域困难语篇级任务自动标注建议分析

    研究自动化生成的注释建议对诊断推理文本中认识活动分段和分类的可行性和效果，并提供了一个新的数据集。建议具有正面的效果和不引入显著偏见，未来应该结合连续模型调整的方法以提高建议模型的性能。

    Jun, 2019

  • 算法自动化问题：预测、分流和人力投入

    本文描述了机器人决策背后的决策过程，提出了一个基于优化问题的框架来优化自动化任务， 在基于这个框架的基础上提高算法的制定和实践，实现自动化的快速和迅速发展。

    Mar, 2019

  • 人类专业知识审计

    研究发现，即使在诊断精度高于人类专家的情况下，人类专家仍然可能会为高风险预测任务添加价值，并提出了一种统计框架来检测这种专家水平。这个框架在急诊科的数据上进行了测试。

    Jun, 2023

  • 利用行动建议的协作决策制定

    通过行动建议的协作决策方法，提高自主系统的性能和稳健性。

    Sep, 2022

  • 在线决策调解

    提出了一种决策支持助手，用于在专家行为和人类行为之间充当中介；通过学习决策中介策略，并在顾及直接损失与未来泛化错误改进之间进行权衡，可以获得性能上的一致增益。

    Oct, 2023

  • 利用人工智能生成的决策辅助工具提升人类决策能力

    使用机器学习和认知科学的方法为人类决策制定决策辅助方法，将其转化为自然语言指令可显著提高决策性能。

    Mar, 2022

  • 推进人工智能和人类互补性：用户专业知识和算法调优对共同决策的影响

    研究了用户与三个模拟算法模型的交互，发现较低水平的用户虽然能从 AI 建议中受益，但是他们的决策水平却没能达到 AI 的精度，高水平用户则通常能辨别何时应该遵循 AI 建议并保持或提高其性能，而中等水平者则最不稳定，AI 建议会对其性能产生帮助或伤害，此外，用户对 AI 性能的感知也对决策的精度影响非常大。该研究提供了关于人工智能协作相关复杂因素的见解，并提出了如何开发以人为本的人工智能算法以辅助用户在决策任务中的建议。

    Aug, 2022

  • 为什么不两者兼顾？在人工智能协作中，通过不确定性来补充解释和自信心的作用

    本研究进行实证研究，以确定不确定性估计和模型解释对用户对模型的信任和理解的影响，探讨如何将自信度纳入分析结果以提高决策求同的准确性。

    Apr, 2023

  • 自动化数据标注在战略人工智能代理下的风险和潜在解决方案

    机器学习模型在社会领域中应用越来越广泛，本文研究了当模型利用自身注释的样本进行重训练，并结合人类战略反应时的长期影响，分析了它们在动态交互下的演变，并提出了一种改进的重训练过程来稳定这种动态，最后研究了这些重训练过程如何影响算法公平性，发现在每个回合都强制执行公平性约束可能无法长期惠及弱势群体。

    May, 2024

  • AI 辅助人类决策中的精度与时间自适应干预

    在高精准性和高时效性的情境中，为了医生在急诊室等场合提供既提高准确性又缩短用时的 AI 辅助，本文提出通过根据问题和用户的不同属性，适应性的选择 AI 辅助类型来平衡目标的研究，并在用医生为外星人开具药品做实验得出需要适应性的 AI 辅助类型，适应性可以在准确性和用时间做良好的权衡，最后进一步研究可以考虑使用机器学习算法（如强化学习）来自动更快地适应。

    Jun, 2023