Nov, 2023

AI 中介平台的模型市场调控

PDF
TL;DRAI 系统模型市场作为一个有待合理监管的平台，面临着可能具备潜在危害性和非法性的挑战，需要通过许可、访问和使用限制、自动内容审核和开放政策等一系列有限但重要的实践来应对。然而，如何更好地调动资源来成为一个审慎、公平和比例适当的监管接入点，仍然是一个重要的政策问题。
ai systemsmodel marketplacesplatform governance challengesmoderation demandsregulatory access point
发现论文，激发创造
  • 谁来保护版主？众包图像审核案例分析

    本文研究通过模糊图片，减少内容审核员将受精神和情感损伤的私人数据泄露给他们。

    Apr, 2018

  • 以更安全的对话人工智能作为用户喜爱的来源

    本研究旨在探讨适当的 moderation 对于提高聊天 AI 系统的用户体验的作用，研究发现恰当的 moderation 不仅不会降低用户的满意程度，反而有可能提高用户留存，是一种有效的系统设计方式。

    Apr, 2023

  • 生成模型内容审查的安全性与公正性

    本研究提出了一个理论框架来对文本到图像生成技术进行负责任的内容管理，其中包括了定义并区分了安全、公平和度量公平的概念，并且详细列举了可能出现的伤害案例，并提供了如何量化所定义的危害的实证演示，用数据驱动的内容管理决策来实现量化危害的操作。

    Jun, 2023

  • 通过有条件委托的方式，实现人工智能与人类的协同合作：内容审核案例研究

    该研究论文探讨了如何通过条件委托来实现人工智能和人类的有效合作，通过进行内容审查等测试实验表明有该方法有提高模型性能的潜力，并研究了人工智能解释等因素对该方法的影响。

    Apr, 2022

  • 灰色中的人工智能：对有争议主题中对话型大语言模型的调控政策与人类回答的探究

    通过将 ChatGPT 暴露在具有争议性的问题上，我们旨在了解其意识水平，以及现有模型是否存在社会政治和 / 或经济偏见。同时，我们还旨在探讨人工智能生成的答案与人类答案的对比情况。通过使用社交媒体平台 Kialo 创建的数据集来进行探索。我们的研究结果表明，尽管 ChatGPT 的以前版本在争议性话题上存在重要问题，但最近的版本 (gpt-3.5-turbo) 在多个知识领域中不再表现出明显的显性偏见，特别是在经济方面进行了很好的调节。然而，它仍然保持着一定程度的对右倾意识形态的隐性倾向，这表明需要从社会政治的观点增加更多的调节。在争议话题的领域知识方面，除了 “哲学” 类别外，ChatGPT 在跟上人类集体知识水平方面表现良好。最后，我们发现与人类答案相比，Bing AI 的信息来源在倾向中立方面略有增加。我们的所有分析都具有普遍适用于其他类型的偏见和领域。

    Aug, 2023

  • 规范 ChatGPT 和其他大型生成型 AI 模型

    论文将新的生成模型 LGAIMs 置于当前的信任人工智能法规辩论中，并探讨如何量身定制法律条款以适应其能力，主要包括直接管制、数据保护、内容管理等，并提出四种策略以确保 LGAIMs 可信并为社会利益服务。

    Feb, 2023

  • 像教练，像机器人？算法内容审查中的偏见传承

    通过在不同的人口子集上进行注释的文本上训练分类器来衡量算法内容调节系统的规范偏见。

    Jul, 2017

  • AI 社群构建未来？对 Hugging Face Hub 上的开发活动进行定量分析

    开源开发者在人工智能（AI）的政治经济中成为关键角色，开放模型开发被认为是封闭源 AI 开发的替代方案。然而，我们对开源 AI 的协作实践仍有有限的了解。本文通过对 Hugging Face（HF） Hub 上的开发活动进行三部分数量分析来填补这一空白，HF Hub 是一个流行的构建、分享和展示模型的平台。

    May, 2024

  • 基于基础模型的市场集中度影响

    大规模 AI 模型的市场结构和竞争政策的影响分析，强调竞争机构需解决垄断现象并确保规范监管以最大限度地促进社会福利。

    Nov, 2023

  • 双重治理：中央监管与众包安全机制在生成式人工智能中的交叉

    通过实施 Dual Governance 框架，我们认为可以促进创新和创造力，同时确保生成 AI 的安全和道德部署。

    Aug, 2023