本文介绍了 SemEval-2020 任务 4，Commonsense Validation and Explanation (ComVE)，该任务包括三个子任务，旨在评估一个系统能否区分人类可以理解的自然语言语句和不可理解的语句，并提供解释。本任务吸引了 39 个团队参与其中，对于 A、B 两个子任务，排名靠前的系统的表现与人类相当接近，但对于 C 子任务，系统和人类之间仍存在较大差距。

Jul, 2020

本文提出了一种基于 BERT 模型架构和多任务学习的 “解释，推理和预测” 系统，用于解决 SemEval 2020（通识验证和解释）的子任务，包括通识的验证、推理和解释。该系统受通识认知研究启发，首先对句子的理解和推理做出解释，然后通过多任务学习来选择一条制约语句是否合理，最终在评估中取得了不错的效果。

Jun, 2020

本文提出一种使用无监督学习、基于语言模型的神经网络常识推理的简单方法，通过对大量未标记数据的训练，优化单选题的得分，获得了很好的测试成绩，没有使用昂贵的注释知识库或手工特征工程。

Jun, 2018

利用综合策略和先进的预训练模型，以及 Sentence 和 Word Puzzle 数据集作为训练数据，并结合幽默 / 笑话和 RiddleSense 数据集进行模型微调，实现了 92.5％的句子拼图子任务准确率和 80.2％的词语拼图子任务准确率。

May, 2024

本文描述了我们针对 SemEval2020 Task 4 C 任务提交的 mUlti-task learNIng for cOmmonsense reasoNing (UNION) 系统，该系统提出了一种统一的端到端框架，利用了多个现有的常识数据集，并提出了辅助自动评估度量，以高效、准确、及时地执行模型选择。该系统不仅在指标上表现良好，而且在人类评估上得到了最高得分，同时仍保持着 15.7 的 BLEU 得分。

Jun, 2020

使用自然语言序列和突出的注释收集人类的常识推理解释，形成一个名为 CoS-E 的新数据集。利用 CoS-E 训练语言模型，在 Commonsense Auto-Generated Explanation (CAGE) 框架中生成解释，可用于训练和推理。实验结果表明能够有效利用语言模型进行常识推理。

Jun, 2019

本文提出使用基于深度结构语义模型（DSSM）的神经网络模型，并借助大量未经监督学习的文本来学习常识知识，以解决常识推理任务（Winograd Schema challenges）和代词消岐（Pronoun Disambiguation），并证明其在句子上下文信息和代词和名词之间的引用信息捕捉方面的有效性和显著性改进。

Apr, 2019

本论文调查了最近关于常识推理的谈话人工智能研究，列出了相关的训练数据集，并描述了在谈话人工智能中包含常识的主要方法，讨论了用于评估谈话人工智能中常识的基准，最后对两个最先进的开放对话模型 BlenderBot3 和 LaMDA 的常识能力进行了初步观察，并对自然交互产生了负面影响，进一步激发了关于常识推理在谈话人工智能中的研究。

Feb, 2023

通过利用 ConceptNet 中的结构化知识，构造逻辑形式并生成常识性逻辑推理的多项选择题进行训练，我们提出了一种简单而有效的方法来教授预训练模型常识性推理，实验结果表明，这种训练可以使预训练模型在需要常识性推理的任务上表现稳定提升，特别是在少样本学习设置下。

Sep, 2019

本文调查了预先训练模型在常识推理和生成任务上的表现，探讨了最新研究的优劣势，并提出未来的研究方向。

Jan, 2022