EMNLPOct, 2021

识别影响出版趋势与行为的因果关系：计算语言学界的案例研究

PDF
TL;DR本文利用混合方法分析了互联网上关于计算语言学的出版趋势、行为对研究聚焦点 —— 方法、材料和任务 —— 的采用、持久和退役的因果影响，发现了快速新方法 —— 双向 LSTMs 的引入影响了 LSTMs 的退役，深度学习，嵌入，生成和语言模型等趋势任务和技术在研究社区中持续受关注，并发现科学家所在地（中国等）和大规模研究项目的资金可能会对超出英语之外的语言进行研究的倾向产生影响。这项工作为计算语言学和更广泛的科学社区提供了有用的见解，提高了关于因果推断的潜力的认识。
发现论文，激发创造
  • 从短期语言影响预测长期引用

    该研究提出了一种基于语言影响力的新方法来量化文献对后续出版物内容的影响程度，并通过测量高维度的 Hawkes 过程来预测未来引用次数。

    Oct, 2022

  • 计算机科学研究的映射：趋势、影响与预测

    本文通过分析计算机科学领域当前热门的研究领域，探讨了导致这些研究领域出现的因素。利用包括论文、引用和资助信息在内的综合数据集，我们采用了决策树和逻辑回归等先进的机器学习技术，预测研究领域的趋势。分析结果表明，研究论文中引用数量（引用计数）在决定研究领域趋势方面起着关键作用，成为推动计算机科学领域趋势的最相关因素。此外，国家科学基金和专利对热门话题的影响随时间增加。逻辑回归模型在预测趋势方面表现优于决策树模型，具有更高的准确率、精确率、召回率和 F1 分数。通过超过随机猜测的基线，我们的数据驱动方法显示出更高的准确性和效力，为研究人员和机构提供了基于数据的决策和未来研究方向的宝贵洞察。

    Aug, 2023

  • 测量数据统计对语言模型 “事实性” 预测的因果影响

    通过提供一种语言描述训练数据如何影响预测的因果框架，我们研究了提取预训练语言模型中事实知识的问题。研究表明，诸如共现计数等简单数据统计确实会影响预测结果，暗示此类模型依赖于表浅启发式。此结果强调了研究数据集和了解 NLP 模型的因果性的重要性。

    Jul, 2022

  • 人类语言模型协作的因果推断

    在本研究中，我们研究了人类和语言模型 (LMs) 之间的协同动力学，其中互动通常涉及 LM 提出文本段落而人类对这些提案进行编辑或回应。通过历史上人类和 LM 之间的相互作用，有效地与 LM 进行互动需要人类识别出适当的基于文本的互动策略，如编辑和回应风格。我们引入了一个新的因果估计标量 ——“增量风格效应 (Incremental Stylistic Effect, ISE)” 来回答由因果推理问题引起的困难，该问题是一个反事实的 “如果” 问题：如果人类采用不同的文本编辑 / 完善策略，协同的结果会如何改变？我们建立了非参数标识 ISE 的条件，并在此基础上开发了 CausalCollab 算法，用于估计动态人类 - LM 协作中各种互动策略的 ISE。在对三种不同的人类 - LM 协作场景进行的实证研究中，我们发现 CausalCollab 能够有效减少混淆，显著改善对照估计与竞争基线相比。

    Mar, 2024

  • 六十年来具有重要影响力和高引用量的机器学习研究综合研究

    通过对高被引机器学习论文进行综合评析，我们揭示了机器学习领域内最有影响力的论文、高被引作者以及合作网络。我们还发现了热门研究主题和最新受到关注的新兴话题，并对高被引论文的地理分布进行了分析，突显了某些国家在机器学习研究中的主导地位。通过为研究人员、政策制定者和实践者提供关于这一快速发展领域的主要进展和趋势的有价值的见解，我们的研究为它们提供了有价值的洞察。

    Aug, 2023

  • 机器学习学术研究中令人担忧的趋势

    本文研究机器学习的研究领域，在探讨了机器学习领域中出现的四种不良趋势的同时，提供了对应的解决方法和可能产生不良趋势的原因。

    Jul, 2018

  • 一种用于科学领域行为分析的引文分类方法

    该研究通过分析近 2,000 份自然语言处理领域内的引用来研究作者引用的方式和读者跟随引用的方式，发现作者的引用方式受到话语结构和出版场所的影响，聚焦于前后文而非方法。还证明了如何引用相关工作能够预测一篇论文的引用次数，并且引用角色的变化表明 NLP 领域正在经历一次重大的共识增加。

    Sep, 2016

  • 非正式互动中的影响语言标记

    本研究通过分析一个在线编织社区中的帖子，找到了代表性的语言特征，研究了语言特征与个体互动中的影响力之间的关系。研究结果表明，语言特征与其影响他人的能力之间存在着重要的相关性。

    Jul, 2017

  • 使用 DBLP Discovery 数据集分析计算机科学研究的现状

    本论文使用计量学方法分析计算机科学的元数据，并使用交互式 Web 应用程序 CS-Insights 进行数据可视化，发现了计算机科学领域在过去两十年中出现了大量新的作者和出版物，会议论文的受欢迎程度下降，期刊文章的引用次数更高。

    Dec, 2022

  • 大型语言模型塑造社会，亦受社会影响：arXiv 出版模式调查

    大型语言模型研究的科学领域发生了戏剧性的变化，在社会的影响下，LLM 研究越来越关注其与社会的关系和影响，通过分析论文发表模式、LLM 相关主题、作者研究背景及其相关性、高度引用的 LLM 论文特点和国际合作模式，证明了 LLM 研究在技术和社会方面存在着深刻的相互影响。

    Jul, 2023