safety constraint | BriefGPT

关键词safety constraint

搜索结果 - 11

具有单调性约束的安全贝叶斯优化的无懊悔算法
我们研究如何在未知安全函数约束下，顺序最大化未知函数的问题，并提出了一种算法来实现亚线性遗憾的搜索
PDFa month ago
SaVeR: 基于表格型 MDP 的安全策略评估的最优数据收集策略
本文研究了在表格化马尔可夫决策过程中针对策略评估目的的安全数据收集。我们考虑了行为策略的安全性约束，并提出了一种算法来近似安全的预言算法，并保证其满足安全性约束。通过模拟实验证明该算法在满足约束条件的情况下能够产生低均方误差的策略评估结果。
PDFa month ago
具有随机停止时间的约束马尔可夫决策过程的安全增强学习
我们提出了一种基于在线强化学习算法的约束马尔可夫决策过程，其中包含一个安全约束。通过线性规划算法，我们演示了学习到的策略在很高的置信度下是安全的。我们还提出了计算安全基准策略的方法，并演示了该算法的有效性。同时，我们通过定义状态空间的子集，
PDF3 months ago
未知约束的在线学习
在线学习中最小化后悔，满足安全约束的广义元算法，估计未知的安全约束，并将在线学习预测转化为满足未知安全约束的预测，同时使用预测误差、各类模型的复杂度和新的复杂度度量来界定算法的后悔上限，同时提供了线性约束情况下的具体算法，使用比例变换平衡乐
PDF4 months ago
通过受限的直接优化倾向提升 LLM 的安全性
通过引入 Constrained DPO (C-DPO) 方法，本研究提出了一种高效且轻量级的方法，用于在基于人类反馈的强化学习 fine-tuning 阶段强制执行安全约束，从而在同时提高 AI 系统的有用性和安全性方面找到了几乎最优的平
PDF4 months ago
信息论安全贝叶斯优化
通过提出一种信息论安全探索准则，本研究结合贝叶斯优化采样函数，基于高斯过程推断直接识别最具信息价值的安全参数进行评估，从而实现连续领域的可行性约束优化。
PDF4 months ago
ICLR带有可行性引导扩散模型的安全离线强化学习
通过可行区域定义的安全约束，最大化可行区域内的回报值并将不可行区域内的安全风险最小化的 FISOR（FeasIbility-guided Safe Offline RL）是唯一可以保证所有任务满足安全要求并在大多数任务上实现最高回报的方法。
PDF6 months ago
线性最佳臂识别中的安全性价格
介绍了具有线性反馈的安全最优臂识别框架，代理受到一些在未知参数向量上线性相关的逐阶段安全约束的限制，代理必须以保守的方式采取行动，以确保在每一轮中不违反安全约束的概率较高。提出了一种基于间隙的算法，实现了有意义的样本复杂度，同时确保逐阶段的
PDF10 months ago
基于在线符合预测的正式安全保证的贝叶斯优化
本文提出了一种基于 Bayesian optimization 和在线 conformal prediction 的方法，称为 SAFE-BOCP，可以保证不会选择任何不安全的解决方案，同时具有高灵活性和实验验证。
PDFa year ago
基于已知约束函数的多能源管理系统安全强化学习
本文提出了两种新的安全强化学习方法，即 SafeFallback 和 GiveSafe，其安全约束公式与 RL 公式分离，可提供硬约束满足保证，且无需解决数学问题，从而降低计算能力要求，并具有更灵活的约束公式表述。方法可应用于超出 RL 的
PDF2 years ago
基于安全性的分段独立同分布赌博机变点检测
本文考虑在安全约束下，针对分段独立同分布赌博机的问题，引入了适应性算法，探测并重新开始实验，同时提供了相应的遗憾上界和匹配下界。实验表明，相较于不符合安全约束的算法，本文提出的带安全约束的算法性能相似。
PDF2 years ago