- 信息回音室：探究在用户、数据和推荐系统反馈循环中的源偏见逐步升级
研究表明在反馈循环中，源偏好对神经推荐模型产生了影响，因此引入了一种黑盒去偏方法以防止偏见在反馈循环中的升级。
- 人工智能安全：一代新的生成式人工智能和控制系统安全的后裔
泛人工智能与人类的互动达到了前所未有的规模，为巨大的积极影响提供了新途径，但也引发了广泛关注，担忧其对个体和社会可能造成的伤害。本文中，我们认为，对这些人工智能技术的有意义的安全保证只能通过思考人工智能输出与人类行为之间形成的反馈循环如何推 - 大语言模型与用户信任：聚焦于医疗保健
论文探讨了临床医师对 LLMs 的信任与数据来源从人生成为 AI 生成内容的演变关系，并随之对 LLMs 的准确性和临床医师能力的影响。关注的其中一个主要问题是随着 LLMs 对其输出越来越依赖于学习，可能导致输出质量的降低和临床医师技能的 - 预测模型模拟的代理限制
适应预测模型为基础的 AI 助手存在结构上的两个失败原因：自我暗示的错觉和预测 - 策略不一致。通过引入来自环境的反馈循环可以解决这两个问题，并验证了理论和实证分析的一致性。
- 脉冲神经网络中神经元的快速无梯度激活最大化
通过构建一个反馈循环并利用低秩张量分解技术，我们成功设计了一个快速高效的优化方法，用于激活最大化的神经网络，并在人工脉冲神经网络上成功测试。
- 预测性思维：LLMs 作为非典型的主动推理代理
大型语言模型通常被概念化为被动的预测器或模拟器，但我们通过借鉴认知科学和神经科学中的主动推断理论来重新概念化大型语言模型。我们检查传统主动推断系统和大型语言模型之间的相似性和差异，得出结论说，目前大型语言模型缺乏在行动和感知其行动影响之间的 - EMNLP通过偏差分析和语言模型增强的数据增强改进对话推荐系统
对话式推荐系统是一个快速发展的研究领域，随着语言建模技术的进步而备受关注。然而，目前的对话式推荐系统面临许多挑战，由于其相对新颖和现有贡献的有限性。本研究探讨了用于开发对话式推荐系统模型的基准数据集，并解决了多轮互动中固有的反馈循环所产生的 - 探究生成人工智能和互联网相互作用
本文研究探讨了生成 AI 技术中，AI 加入真实数据之后可能会产生回馈循环并导致未来模型的降级和多样性降低的情况，从而产生社会影响。同时，对于如何缓解这种回馈循环以及降低未来技术模型降级的影响也提出了相关问题。
- 推荐系统中的暴露不平等：长期影响
本文介绍了一个模型，通过多轮交互模拟用户和链接推荐器之间的反馈循环，研究了推荐算法的长期后果。实验结果表明，少数群体如果足够同质化，则可以从所有链接推荐器中获得不成比例的优势，同时推荐器会加剧富人越富的现象，这种现象独立于少数群体的同质化程 - BaFFLe：基于反馈的联邦学习进行的后门检测
本文提出了一种基于反馈的联邦学习防御方法（BAFFLE）来解决联邦学习中受污染模型的后门攻击问题，并将多个客户机器的数据集合并以检测可能存在的污染，结果表明该方案可以在对 CIFAR-10 和 FEMNIST 数据集进行实证评估时检测到最先 - ECCV用潜在嵌入反馈和鉴别特征进行零样本分类
本研究提出了一种基于语义一致性的零样本学习框架，在训练、特征合成和分类的所有阶段都强制执行语义一致性，并采用反馈循环来迭代地优化生成的特征，实验证明该方法在六个零样本学习基准任务上表现优异。
- AAAI人机协作快速土地覆盖制图
研究提出了一种将人类标注者引入模型微调系统中，以提供即时反馈的框架，实现了交互式查询模型预测结果、选择哪些数据标记并查看其对模型预测结果的影响等功能，该框架在各个领域都有应用潜力。
- 预测性执法中的失控回馈循环
本研究通过建立数学模型证明预测警务系统存在反馈循环问题，进而为系统输入的调整提供有效方法，以避免反馈循环问题的产生，从而学习到真正的犯罪率。同时，研究发现报告犯罪与发现犯罪的差异会影响反馈循环强度，但不会完全消除问题。
- 推荐系统中的反馈循环去卷积
本研究探究回推协作过滤算法中被反馈循环所影响的用户评分矩阵，提出了衡量推荐系统对其整个评分矩阵影响的度量，并通过合成和实际数据集验证了其在还原固有用户偏好上的可用性。