Jul, 2023

人类如何平衡个人利益与他人利益的可预测性

PDF
TL;DR使用最先进的三个聊天机器人进行 78 个实验，研究其对独裁者游戏决策的能力，发现只有 GPT-4 能准确捕捉到行为模式，包括自利、不公不平等和完全利他三类，但 GPT-4 普遍高估了他人关注行为，并夸大了不公不平等和完全利他者的比例，这对人工智能开发者和用户具有重要影响。
generative artificial intelligencedecision-makingchatbotsdictator game decisionsbehavioral patterns
发现论文，激发创造
  • 一个人工智能代理的行为证明了自我利益和利他主义的一致性

    研究 OpenAI 公司开发的大型语言模型 AI 代理，通过多项实验，发现 AI 代理在决策任务时表现出 self-interest 和一定程度的利他行为，并且仅有最高级别的 AI 代理会在 dictator game 中表现出较慷慨的利他行为。

    Jan, 2023

  • 公平提示：人工智能作为游戏玩家

    通过对 101 轮独裁者游戏的研究，我得出结论：人工智能在游戏中表现出强烈的公平意识，这取决于它认为与之互动的人是否值得信任；在指定为受托人时，框架对人工智能给予接收者的数量有很大影响；而且也有证据表明人工智能可能像人类一样对不平等具有厌恶感。

    Feb, 2024

  • 增加高级聊天机器人的防护栏

    ChatGPT 是公正的搜索引擎，但在文本生成和代码生成方面存在偏见；小的改变可能导致不同水平的公正性，需要立即实施 “修正” 或缓解策略以提高公平性。

    Jun, 2023

  • 生成人工智能的方法：社会公正视角

    2023-2024 学年，ChatGPT 的广泛普及将对学术诚信产生影响，高中学生中 77% 报告过使用人工智能驱动的写作辅助工具从事不诚实行为，这种被 Chan（arXiv:2306.03358v2）称为 'AI-giarism' 的 AI 驱动写作辅助工具将使抄袭行为更加易于获取且难以检测，此外，这些担忧也引发了关于这一技术革命性质的更广泛问题，包括自主性、数据隐私、版权和公平性。本文旨在从社会公正的角度探讨生成型人工智能，研究这些模型的训练、固有的偏见以及检测人工智能生成写作中的潜在不公正之处。

    Aug, 2023

  • 生成型人工智能的社会影响：ChatGPT 分析

    该论文采用一种方法来研究生成式 AI 工具对社会的影响，主要关注 ChatGPT 这一案例，评估其对社会各个领域的潜在影响，并阐述综合文献回顾的研究结果，包括正面效应、负面效应、新兴趋势和机遇领域，该分析旨在提供深入讨论的见解，从而激励政策、规范和负责任的发展实践，促进以人为中心的人工智能。

    Mar, 2024

  • 人工智能与人类互动及社会陷阱

    通过引入贝叶斯框架，研究了与生成人工智能合作时可能出现的一种情况：用户可能会获得生产力的提高，但人工智能生成的内容可能无法完全符合他们的偏好。我们揭示了个体决策与人工智能训练之间的相互作用可能导致社会性挑战，输出结果可能变得更加同质化，特别是当人工智能基于人工智能生成的内容进行训练时。解决同质化和偏见问题的方法是改进人工智能与人类的交互，实现个性化输出而不损失生产力。

    Sep, 2023

  • 社会契约 AI：将 AI 助理与隐含的团体规范进行一致化

    模拟框架中，研究通过反转模型来对齐 AI 助手与用户的偏好，并发现 AI 助手在经济最终决策游戏中能够准确对齐行为，但其学习的策略在未包含的情况下缺乏稳健性和普适性，并且发现语言使用与未知策略之间存在不一致时，学习策略的速度会减慢。

    Oct, 2023

  • 灰色中的人工智能：对有争议主题中对话型大语言模型的调控政策与人类回答的探究

    通过将 ChatGPT 暴露在具有争议性的问题上，我们旨在了解其意识水平，以及现有模型是否存在社会政治和 / 或经济偏见。同时，我们还旨在探讨人工智能生成的答案与人类答案的对比情况。通过使用社交媒体平台 Kialo 创建的数据集来进行探索。我们的研究结果表明，尽管 ChatGPT 的以前版本在争议性话题上存在重要问题，但最近的版本 (gpt-3.5-turbo) 在多个知识领域中不再表现出明显的显性偏见，特别是在经济方面进行了很好的调节。然而，它仍然保持着一定程度的对右倾意识形态的隐性倾向，这表明需要从社会政治的观点增加更多的调节。在争议话题的领域知识方面，除了 “哲学” 类别外，ChatGPT 在跟上人类集体知识水平方面表现良好。最后，我们发现与人类答案相比，Bing AI 的信息来源在倾向中立方面略有增加。我们的所有分析都具有普遍适用于其他类型的偏见和领域。

    Aug, 2023

  • AI 对齐的社会选择：应对多样化的人类反馈

    基金会模型的微调是为了避免不安全或有问题的行为，而利用人类反馈进行强化学习或采用宪法人工智能的方法，通过社会选择来处理潜在的人类意见分歧并影响模型的行为。

    Apr, 2024

  • 黑帮游戏模拟中的生成式人工智能

    本研究探讨了生成式人工智能模型的功效和潜力，特别关注其在角色扮演模拟中的应用，以 Spyfall 为例。通过利用 GPT-4 的先进能力，该研究旨在展示该模型在理解、决策和游戏情节中的互动中的潜力。GPT-4 与其前身 GPT-3.5-turbo 之间的对比分析显示，GPT-4 在游戏环境中的适应性得到了改善，提出了相关问题并形成了类似人类的回应。然而，出现了例如模型在虚张声势和预测对手动作方面的局限性等挑战。研究还讨论了游戏开发、财务限制和非言语限制方面的思考。研究结果表明，虽然 GPT-4 相对于早期模型展示了有希望的进展，但在为人工智能注入更多类人属性方面仍有潜力进一步发展。

    Sep, 2023