大语言模型在面对未知的相关语言和方言时会表现出性能下降现象，本论文通过对语言距离的建模和分析，提供了关于模型健壮性和任务特性对性能下降的洞察，为评估和缓解性能下降问题提供了便利

Jun, 2024

大型语言模型（LLMs）在教育和学习应用中的使用不断增加。 研究表明，在控制风格以适应学习者需求的情况下，能够增加理解力，促进包容性，并有助于知识蒸馏。 为了了解当代 LLMs 在风格控制方面的能力和局限性，我们评估了五个最先进的模型：GPT-3.5，GPT-4，GPT-4o，Llama-3 和 Mistral-instruct-7B。 我们观察到第一个任务存在显著的不一致性，模型的性能在适用于一年级学生的任务中平均介于五年级和八年级阅读水平之间，标准偏差高达 27.6。 对于我们的第二个任务，我们观察到性能有了显著的提高，从 0.02 到 0.26。 然而，我们发现即使在参考文本中没有刻板印象的情况下，LLMs 在任务中经常生成文化上不敏感的内容。 我们提供了详细的结果分析和讨论。

Jun, 2024

在小而高质量的数据集上对大型语言模型进行微调可以增强其在特定下游任务上的性能，我们的研究探讨了在不同任务特定数据上进行微调时存在的安全风险，并提出了一种新的缓解策略，该策略在维持相似任务性能的同时，更有效地重新建立安全对齐。

Jun, 2024

合作是人类对话的重要组成部分。本研究介绍了一种在线的二人 2D 物体放置游戏，促进均衡的合作，通过协商目标状态实现自然的角色扮演和任务表现的提升。同时，引入基于 LLM 的基准代理程序，探讨了人工系统面临的挑战。

Jun, 2024

数据集精炼是一种克服大数据集困难的策略，通过学习一组保留原始数据集关键信息的紧凑合成数据。研究中探讨了关于精炼数据的行为、代表性和逐点信息内容的三个问题，揭示了精炼数据不能在数据集精炼标准评估环境之外用于训练，但能通过压缩真实模型早期训练动态相关信息来保持高任务性能。解释了精炼数据的框架和揭示了个体精炼数据点包含有意义的语义信息，从而更好地理解了精炼数据的复杂性及其有效利用。

Jun, 2024

通过学习少量执行任务的示例，我们引入了一种归纳性方法来学习多种模型，每个模型都代表一种执行任务的替代策略。我们将此方法应用于手术技能训练和烹饪领域的常见活动识别任务，并通过评估模型是否能够代表示例并捕捉执行任务的不同形式来验证其有效性。研究结果表明，一小组有意义的示例足以获得捕捉解决任务的不同策略的模式。

Apr, 2024

大型语言模型在推理任务中表现出色，但是它们的推理能力深度尚不确定。本文通过综述超越任务准确性的研究，深入探讨模型的推理过程，并调查评估语言模型推理行为的方法，发现其依赖于训练数据的表面模式和相关性，而非真正的推理能力。同时，我们指出需要进一步研究人类推理与语言模型推理之间的关键差异。通过此综述，我们旨在揭示大型语言模型内部复杂的推理过程。

Apr, 2024

通过整合多智能体增强学习和控制理论方法，本文提出了一种混合方法来解决安全关键环境中的复杂合作任务，包括一个新颖的设定更新算法以动态调整智能体位置以保持安全条件而不影响任务目标。实验证明相比传统的多智能体增强学习策略，该方法在任务性能和安全违规方面取得了显著优势。研究结果表明，将安全控制与学习方法相结合不仅增强了安全合规性，还实现了良好的任务目标性能。

Apr, 2024

我们在这项工作中提出了一种新颖的、无需训练的方法，通过在决策时应用迭代推理，基于未来状态表示的连贯性来优化被推理的智能体状态，从而提高了模型驱动的强化学习智能体的性能。

Feb, 2024

通过研究人类获取新技能所需的多个视觉运动映射的能力，我们发现上下文提示作为不同的 “网格世界” 实施时，能够更高效地让参与者学习两个不同的关键映射。结果表明，当提供上下文信息时，任务表现显著提高，这适用于不同的元强化学习代理程序，无论它们在执行任务时是否接收上下文信息。我们评估了它们在预测人类任务表现方面的准确性，并分析了它们的内部表示。结果表明，上下文提示使得在使用不同的视觉运动映射时能够在空间和时间上形成独立的表示，而在缺乏上下文提示时则更倾向于共享一个表示。虽然这两种策略都可以允许学习多个视觉运动映射，但我们展示了上下文提示在可以学习多少个映射方面提供了计算优势。

Feb, 2024