May, 2024

LLaVA 发现免费午餐：教授人类行为提高 LLM 的内容理解能力

PDF
TL;DR训练语言模型以预测接收者行为，可以改善其对内容的理解能力。通过训练语言模型预测接收者的喜欢和评论行为，可以在多种内容理解任务上显著提高性能。
communicationreceiver behaviortraininglanguage modelscontent understanding
发现论文，激发创造
  • 大语言模型不是零 - shot 通信者

    这篇论文研究 LLMs 在理解语境方面的能力，通过实验发现目前的 LLMs 模型在完成只需要二进制推断的对话时表现平庸，需要进一步研究如何使得 LLMs 适应更贴合人类意图的对话模式。

    Oct, 2022

  • 基于 LLMs 的贝叶斯统计建模

    利用贝叶斯统计模型，研究了大型语言模型（LLMs）在人类行为预测方面的类人特性，发现 LLMs 不能准确捕获人类数据的各项细节，但在聚合和条件水平的预测方面可以有效适配人类数据，显示出某些不同的方法可以使其得到充分的分布式预测。

    Jun, 2024

  • TeaMs-RL：通过强化学习教授 LLMs 更好地自我指导

    通过使用增强学习直接生成基础指令数据集，TeaMs-RL 方法能够在单一微调步骤中提高大型语言模型的能力，减少人为参与需求、模型查询次数以及提高模型隐私保护能力。

    Mar, 2024

  • LLMs 能通过教学来学习吗？初步研究

    教学，LLMs，知识蒸馏，教学学习，模型改进。

    Jun, 2024

  • 语言模型作为代理模型

    语言模型仅通过文本训练，但仍然可以推断和表示产生语境的人的代理人属性，包括细粒度的交际意图和抽象的信仰和目标，并被用于构建通信和行为系统。

    Dec, 2022

  • 评估统计语言模型作为实用推理器

    本文考察了大型语言模型对语言习得中的概率关系和上下文敏感性建模的能力，并针对基于强度先验条件的语境下的 pragmatism utterances 进行了阈值估计实验。结果表明该方法成功地推导出了一些复杂 pragmatic utterances 相关的人类类似信息分布，但对于否定的组成较为困难。

    May, 2023

  • 语言模型是否能教授弱智能体？通过心灵理论提升学生表现的教师解释

    本文研究了大型语言模型在学生 - 教师框架中作为教师的潜力，探讨了教师在测试时干预学生推理和在特定学生个体上进行个性化解释的方法。

    Jun, 2023

  • 基于大型语言模型的教育调查反馈分析

    本研究评估了大型语言模型（LLMs）GPT-4 和 GPT-3.5 在教育反馈调查中提供洞察力的潜力，并应用自然语言处理的方法，通过多标签分类、提取、主题分析和情感分析等任务来实现教育中常见的目标，从而展示了 LLMs 在洞察力提取方面的巨大潜力。

    Sep, 2023

  • 深思熟虑：通过内心独白培养大型语言模型的沟通技巧

    通过设计和添加内心独白，通过提示工程和上下文学习的方式，使大型语言模型（LLMs）更具人类形象和积极主动的对话能力，并构建评估模型对话生成能力的综合性基准 CSkills，并实验证明了所提出的 CSIM 策略在自动评估和人工评估上优于基准模型。

    Nov, 2023

  • 大型语言模型在语言学习中的口语智能

    评估大语言模型在教育中的功效，特别是在口语学习领域，引入新的多选题数据集评估模型在理解和应用口语知识方面的表现，研究不同提示技术对模型性能的影响，发现模型在音韵学、语音学和第二语言习得方面具有良好的概念理解，但在解决现实世界问题的推理方面存在限制，并初步探讨了对话交流的发现。

    Aug, 2023