Oct, 2023

生成型人工智能的悖论：「它能创造，却未必能理解」

PDF
TL;DR这项研究揭示了生成型人工智能模型在超人能力生成方面表现出色，但在理解能力方面远远落后于人类，从而提出了 “生成型人工智能悖论” 假说，并通过对语言和图像模式下的控制实验进行了验证。
generative aisuperhuman capabilitiesintelligenceunderstandinggenerative ai paradox
发现论文，激发创造
  • 人工智能与美学判断

    生成人工智能产生以人类表达风格为基础的创造性产出，我们认为现代生成人工智能模型的输出所引起的体验是通过组织我们与艺术作品的互动的审美判断来进行的。

    Aug, 2023

  • 亲戚训练的生成型人工智能模型崩溃

    通过大量人工生成的内容进行训练，AI（人工智能）图像合成能够生成与其训练数据在视觉外观上相匹配的语义连贯的图像。我们展示了这些生成型 AI 模型在重新训练时即使只是重新训练少量自己生成的内容，也会产生高度畸变的图像。同时我们还展示了这种畸变不仅限于用于重新训练的文本提示，一旦受到毒害，这些模型在仅仅通过真实图像重新训练后依然难以完全恢复。

    Nov, 2023

  • 人工智能与知识崩溃问题

    通过降低获取知识成本，人工智能可能对公众理解产生逆效应，最终导致知识塌缩，损害创新和人类理解与文化的丰富性。我们提供一个简单模型来研究学习者或创新者选择使用传统方法还是依赖打折的人工智能辅助过程的条件，并发现人工智能生成内容的打折将使公众信仰与真实事实相差 2.3 倍。最后，我们考虑进一步的研究方向来对抗这种结果。

    Apr, 2024

  • 探究生成人工智能和互联网相互作用

    本文研究探讨了生成 AI 技术中，AI 加入真实数据之后可能会产生回馈循环并导致未来模型的降级和多样性降低的情况，从而产生社会影响。同时，对于如何缓解这种回馈循环以及降低未来技术模型降级的影响也提出了相关问题。

    Jun, 2023

  • 探索人工智能对知识工作创造力的影响：超越机械抄袭和随机鹦鹉

    人工智能和生成模型对知识工作产生了深远影响，探讨了创造力、原创性、抄袭、归属权等问题。通过文学批评、艺术史和版权法例子，指出创造力和原创性无法被界定为对象的信息熵属性，而是过程、作者或观众的属性。认为创造力最终由创作者和受众共同界定，在人工智能的创造性知识工作中，推动了知识工作从物质生产向批判性融合的转变。提出需更充分认识用户创造性和策展角色的问题，并远离简化的符号或信息熵观点。

    Jul, 2023

  • AI 大语言模型理解问题之争

    研究人工智能中对大规模预训练语言模型是否在任何重要意义上可以称为 “理解” 语言，以及对应的关键问题和新的智能领域的发展。提出一种新的智能科学来提供关于知识的不同模式，以及它们的优势和限制，以及融合不同形式认知的挑战的见解。

    Oct, 2022

  • 生成模型的统计图灵测试

    通过统计模式识别语言提供了一个框架，量化了针对评估上下文的人类生成内容和机器生成内容之间的差异，描述了当前的方法并演示了如何使用该框架评估生成模型在向人类能力逼近的过程中的进展。

    Sep, 2023

  • 人工智能与人类互动及社会陷阱

    通过引入贝叶斯框架，研究了与生成人工智能合作时可能出现的一种情况：用户可能会获得生产力的提高，但人工智能生成的内容可能无法完全符合他们的偏好。我们揭示了个体决策与人工智能训练之间的相互作用可能导致社会性挑战，输出结果可能变得更加同质化，特别是当人工智能基于人工智能生成的内容进行训练时。解决同质化和偏见问题的方法是改进人工智能与人类的交互，实现个性化输出而不损失生产力。

    Sep, 2023

  • 超越：生成模型能超过训练它们的专家

    研究表明，通过低温抽样，训练生成模型可以实现超越数据生成专家的能力，这在国际象棋中得到了实验证明。

    Jun, 2024

  • 面向 AI 支持的知识发展环境的思想生成和测试

    通过使用机器学习和大型语言模型，本论文介绍了一种知识工作者系统 Generate And Search Test，该系统能够高效地创建以前需要专家合作才能完成的解决方案。同时探讨了生成型人工智能和搜索引擎如何提供创意和验证事实、逻辑和语境，以消除人为偏见。

    Jul, 2023