shielding | BriefGPT - AI 论文速递

关键词shielding

搜索结果 - 7

深度强化学习的验证引导屏蔽
通过整合形式验证和概率验证工具，将输入域划分为安全和不安全区域，通过聚类和符号表示过程对不安全区域进行压缩，从而在（潜在的）不安全区域高效地临时激活防护，显著减少运行时开销并保持形式安全保证。
PDF24 days ago
LTL 模理论的屏蔽综合
近年来，机器学习（ML）模型在各个领域取得了显著的成功，然而这些模型也倾向于表现出不安全的行为，这限制了它们在安全关键系统中的部署。为了解决这个问题，许多研究集中在开发能够保证给定 ML 模型的安全行为的方法。其中一个突出的例子是屏蔽，它包
PDFa month ago
安全性通过可行性：快速而安全的强化学习的防护构建
在这篇论文中，我们提出了一种基于许可性的框架，用于处理安全性和屏蔽构建，并展示了其在三个标准强化学习应用中的有效性。
PDFa month ago
利用近似模型防护在连续环境中实现概率安全保证
本文介绍了在连续环境中实现安全强化学习的方法，使用了适用于连续环境的近似基于模型的屏蔽 (AMBS) 框架，并提出了两种新的惩罚技术来改进策略梯度的稳定收敛性。
PDF5 months ago
探测与缓解 AI 欺骗的实验
如何检测和缓解欺骗性人工智能系统是安全可信的人工智能领域的一个开放问题。本文分析了两种缓解欺骗的算法：第一种基于路径特定目标框架，消除激励欺骗的路径；第二种基于护盾，即监控不安全策略并替换为安全参考策略。我们构建了两个简单的游戏，并进行了经
PDFa year ago
安全探索的 Atari 代理人的近似屏蔽
研究探讨如何在强化学习中实现安全探索，提出了一种基于 latent shielding 的算法，能有效减少安全违规率并提高最终代理的收敛速度和质量。
PDFa year ago
通过概率逻辑屏障实现安全的强化学习
本文介绍了一种新的模型基础的安全增强学习技术 Probabilistic Logic Policy Gradient (PLPG)，该技术使用概率逻辑编程将逻辑安全约束建模为可微分函数，可以与任何策略梯度算法无缝集成，同时提供相同的收敛保证
PDFa year ago