unsafe content | BriefGPT - AI 论文速递

关键词unsafe content

搜索结果 - 6

安全文本到图像生成的通用提示优化器
我们提出了第一个用于黑盒情况下安全 T2I 生成的通用提示优化器，通过构建毒性 - 清洁提示对数据集，设计奖励函数衡量生成图像的毒性和文本对齐度来训练优化器，实验证明我们的方法可以显著减少不当图像的生成概率，并且对文本对齐没有明显影响，同时
PDF5 months ago
ACL利用社会意识对比学习改善对话安全性
通过对对话 AI 系统中不安全内容的生成风险进行研究，我们提出了一种双步骤微调过程，利用社交感知的 n 对比损失来集成亲社会行为，并通过使用 Moral Integrity Corpus（MIC）和 ProsocialDialog 等数据集
PDF5 months ago
图像安全维护：使用条件视觉语言模型推理和逆向遮蔽危险内容
社交媒体平台通过使用人工智能和人工审核，模糊分享危险内容的图像以提高用户安全性，研究了图像模糊的理由和最小化模糊的方法，并通过实验证明了所提出方法的有效性。
PDF6 months ago
大型语言模型中学习和遗忘不安全示例
即使在第三方定制微调数据中学习不安全内容，大型语言模型（LLMs）也可以采用 “遗忘过滤器” 算法过滤不安全的数据，确保安全，同时不影响后续任务性能。
PDF7 months ago
从安全基准筛选敌对提示：关于敌对咬地机挑战的报告
文本条件的图像生成模型在图像质量和对齐性方面取得了惊人的结果，然而它们依赖于从网络随机获取的数量庞大的数据集，因此也会生成不安全的内容。作为对 Adversarial Nibbler 挑战的贡献，我们从现有的安全基准中提取了超过 1,000
PDF10 months ago
学会不学习：聊天机器人生成安全的探索
本文提出了一种名为 LOT 的新框架，该框架采用对比损失来增强归纳推理模型对输入上下文的泛化能力，使生成的结果避免了不安全的信息，并在保持对话流畅性的情况下，有效地减少了毒性，同时保留了内容的魅力和流畅度。经实验证明，与基线模型相比，该方法
PDFa year ago