ethical standards | BriefGPT

关键词ethical standards

搜索结果 - 6

透过上下文学习揭示基础大型语言模型的滥用潜力
大型语言模型的开源加速应用开发、创新和科学进步，但对于基础语言模型的固有指令限制是否可以防止滥用的普遍假设存在关键的疏忽。我们的研究通过精心设计的演示表明，基础语言模型能够有效地解释和执行恶意指令，此漏洞无需特殊知识或训练即可被操纵，强调了
PDF3 months ago
迫使他们坦白！从（生产）LLM 中进行强制知识提取
大型语言模型的伦理标准与人类价值的对齐可以通过模型输出日志的滥用来被破坏，我们提出的模型审问方法能够揭示隐藏在输出日志中的有害回复，有效性达到 92％，速度快 10 到 20 倍，对编码任务也适用。
PDF7 months ago
ACL可靠性检查：对 GPT-3 在敏感话题和提示措辞方面响应的分析
研究分析了大型语言模型对敏感主题的反应和提示措辞对模型反应的影响，结果显示 GPT-3 在肯定的阴谋论和刻板印象方面反应正确，但在常见的错误观念和争议方面则会出现错误，暴露出其不可靠性。
PDFa year ago
应用标准推进大型语言模型的上下游伦理
本文探讨了 AI 所有者如何通过借鉴其他内容创作行业的行为准则和伦理标准来为 AI 生成的内容开发保障措施，并通过剖析 LLMs 内容生成机制，确定了四个关键领域，即上游 / 下游和用户提示 / 回答，在这些领域中可以有效地应用保障措施，同
PDFa year ago
缓解数据集的危害需要有管理：来自于 1000 篇论文的经验教训
探讨了机器学习数据集的隐私、偏差和伦理应用等方面的顾虑，并分析了三个有争议的人脸和人识别数据集的伦理问题，最后提出了分散化的方法来减少数据集生命周期中的伦理问题。
PDF3 years ago
KDDAI 中正确的公平性探讨
正义是公平的概念。在没有统一接受的公平概念的情况下，如何为特定应用程序选择最适当的公平度量标准是实现可持续公正的关键问题。为了提供更多实用指导，作者提出了 “公平度量罗盘”，这是一个工具，可以形式化选择过程，并简化选择特定系统的最适当的公平
PDF3 years ago