safety issues | BriefGPT - AI 论文速递

关键词safety issues

搜索结果 - 10

GSO-YOLO: 建筑工地检测的全局稳定优化 YOLO
利用全局稳定优化 YOLO 模型 (GSO-YOLO) 解决复杂施工环境中的安全问题，并通过整合全局优化模块 (GOM) 和稳定捕获模块 (SCM) 以提高全局上下文信息的捕获和检测稳定性，以及创新的 AIoU 损失函数来提高检测精度和效率
PDF3 days ago
TroubleLLM: 与红队专家对齐
通过提出的第一个 LLM 模型 TroubleLLM 在 LLM 安全问题上生成可控的测试提示，广泛的实验和人工评估表明 TroubleLLM 在生成质量和生成可控性上的优越性。
PDF4 months ago
ToolSword: 揭示工具学习中大型语言模型的安全问题的研究
ToolSword 是一个全面的框架，致力于细致地研究与工具学习中的大型语言模型（LLMs）相关的安全问题。实验揭示了工具学习中的持久性安全挑战，例如处理有害查询，使用风险工具和提供有害反馈，即使 GPT-4 也容易受到此类挑战。
PDF5 months ago
对抗性 Nibbler：一种用于识别文本到图像生成中多样化伤害的开放式红队方法
从生成图像的文本到图像（T2I）生成 AI 模型的发展中，评估模型对非明显攻击的鲁棒性至关重要。在本文中，我们通过关注 “隐式对抗” 提示（触发 T2I 模型因非明显原因生成不安全图像的提示），独立确定了一组难以发现的安全问题，而人类创造力
PDF5 months ago
PsySafe：多智能体系统安全的心理攻守与评估的综合框架
多智能体系统结合大型语言模型 (LLMs) 展示了集体智能的显著能力，然而对于潜在的恶意使用所带来的安全问题的全面研究仍然有限。本研究基于智能体心理学提出了一个综合框架，着重于确定智能体黑暗人格特质可能导致的风险行为，设计缓解这些风险的防御
PDF5 months ago
RainSD: 利用特征级别的风格分布来增强图像合成的雨风格多样化模块
生成的合成道路数据集含有传感器阻塞，通过深度神经网络进行多任务网络评估和性能退化分析，为自动驾驶提供安全解决方案和深度学习算法的限制和未来发展方向。
PDF6 months ago
提升自动驾驶仿真学习交通规则遵守的关键因素
提出了一种基于惩罚的模仿学习方法，采用交叉语义生成传感器融合技术来提高端到端自动驾驶的整体性能，并对其在长城 05 城镇基准测试中的性能进行了评估，并显示出相对基准模型的显著增强，同时对抗性攻击也表现出更高的鲁棒性。
PDF10 months ago
扩散模型中的统一概念编辑
文本到图像模型存在各种安全问题，先前的方法分别解决了偏见、版权和冒犯内容问题，但在实际环境中，所有这些问题同时出现在同一个模型中。我们提出了一种能够一次性处理所有问题的方法，名为统一概念编辑（UCE），通过一个闭合解而无需训练来修改模型，并
PDF10 months ago
交通管理系统的安全性综述
交通管理系统的安全问题是研究的重点，文献综述了该领域的各种安全问题、当前研究现状以及保障系统安全的技术和方法，并提出了现有研究的局限性和未来研究方向。
PDFa year ago
自主空中移动的可解释和安全强化学习
提出一种深度强化学习（DRL）控制器，通过将耦合的 Q 值学习模型分解为安全感知和效率两个模型，利用周围入侵者的信息作为输入来帮助解决自主自由飞行的冲突。通过该控制器，可以在克服 DRL 控制器的解释性和安全性问题的情况下提高控制任务的性能
PDF2 years ago