ethical risks | BriefGPT - AI 论文速递

关键词ethical risks

搜索结果 - 6

从心理测量学角度攻击大型语言模型以评估隐性偏见
大型语言模型（LLMs）的普及引发了对其可能产生的不道德内容的增加关注。本文通过利用精心设计的指令进行攻击，以评估 LLMs 对特定群体的潜在偏见。我们提出了三种攻击方法（伪装、欺骗和教授），并构建了四种常见偏见类型的评估数据集。对典型 L
PDF14 days ago
非我的声音！言语生成器的伦理和安全危害分类
通过分析语音生成事件，我们提出了一个模型 AI 伦理和安全风险路径的概念框架，该框架可用于开发语音生成器的伤害分类法，并支持相应的政策干预和决策制定。
PDF5 months ago
大规模文本图像模型中检测隐含刻板印象的语言代理
这篇研究论文介绍了一种面向文本到图像模型的刻板印象检测的新型代理架构，并发现在个人特征、社会文化背景和犯罪相关方面存在严重的刻板印象。该论文还强调了在人工智能生成内容领域中解决潜在伦理风险的紧迫性。
PDF9 months ago
ChatGPT 的暗面：来自随机鹦鹉和幻觉的法律与伦理挑战
ChatGPT 和大型语言模型（LLM）对我们的社会产生了根本性的影响，如 Bing 中的 GPT 集成改变了我们的在线搜索方式。然而，随着 LMM 的发展，新的法律和伦理风险也出现了。欧盟是第一个重视 AI 模型监管的司法管辖区，但新 L
PDFa year ago
探索 ChatGPT 的人工智能伦理：一项诊断分析
通过对 OpenAI 的 ChatGPT 进行定性研究，发现大规模语言模型的伦理风险主要包括偏见性和毒性，当前的基准测试无法解决这些问题，为了避免语言模型应用中出现伦理风险，需要制定可靠的基准测试和实施设计。
PDFa year ago
KDD超越公平度量：实践中的道路障碍和伦理人工智能挑战
讨论建立和推广符合伦理 AI 的实践中存在的实际挑战，包括监管压力、冲突商业目标、数据质量、开发过程、系统集成实践和规模问题，认为要考虑 AI 系统的全面运营上下文，才能有效应对这些伦理风险。
PDF3 years ago