关键词decision-making systems
搜索结果 - 7
- 基于大型语言模型的决策制定中的后门攻击探索
这篇论文介绍了第一个全面的框架用于针对基于大型语言模型的决策系统的后门攻击,系统地探索了如何在微调阶段通过不同的渠道引入此类攻击。具体而言,作者提出了三种攻击机制和相应的后门优化方法,以攻击 LLM 决策管道中的不同组件:单词注入、场景操纵 - 人工智能是否帮助人类做出更好的决策?一种实验评估的方法论框架
基于数据驱动算法的人工智能在当今社会中已普遍应用,但在许多情况下,尤其是当风险较高时,人类仍然作出最终决策。本研究引入了一种新的方法框架,可用于在无额外假设的情况下实验性地回答这个问题。我们采用标准分类指标来衡量决策者做出正确决策的能力,通 - FinA:人工智能 - 物理系统决策中不公平的不良影响
在人 - 网络 - 物理系统(HCPS)中确保决策系统公平性是一个紧迫的问题,本文从拥有多样行为和期望的个体,以及在系统中受控操作的共享集合的影响下共存的角度出发,以不断演化的人类行为和偏好为基础,正式引入了对不利影响公平性(FinA)的概 - AAAI建立 AI 的元决策制定:相关性、表示和推理本体论
该研究提出了建筑决策系统本体论,以实现人工智能的元决策,提高自主性,并创建一个可建立度量和基准的框架,以确保第三波认知系统中的安全,并讨论了在此背景下重要性,同时提出了相关,表示和推理三个部分的本体,并探讨了它们在确保安全和减少风险方面的价 - 可解释性设计:支持决策系统解释的方法论
该研究提出 “设计可解释性” 方法,旨在通过对决策系统的设计采取积极措施来包含解释能力,从而实现个性化解释,并应用该方法于两个实际应用中,证明了该方法能够满足法律、条例或业务需求,并且构建解释的成本可以可控且较低。
- 多目标强化学习与规划实用指南
本文为那些希望将多目标方法引入其研究的已经熟悉单目标强化学习和计划方法的研究人员以及在实践中遇到多目标决策问题的从业人员提供了一个解决复杂问题的指南,阐述了影响所需解决方案性质的因素,并通过示例说明了这些因素如何影响复杂问题的多目标决策系统 - 具有深度卷积高斯过程的贝叶斯图像分类
本研究提出了一种翻译不敏感的卷积核,并将高斯过程重新制定为多输出高斯过程,以实现深度卷积高斯过程。实验证明,与使用 dropout 的贝叶斯深度学习方法相比,我们的全贝叶斯方法在不确定性和边际似然估计方面的性能有所提高。