Jun, 2022

利用神经网络预测未来世界事件

PDF
TL;DR该研究介绍了 Autocast 数据集以及伴随的新闻语料库，以提高语言模型的预测能力，其中还包括数字问题和度量标准的 IntervalQA 数据集，并发现语言模型的性能远低于人类专家基准，但随着模型规模和新闻语料库相关信息的增加，性能有所提高。
forecastinglanguage modelingautocast datasetnumerical questionsnews corpus
发现论文，激发创造
  • AutoCast++：增强零 - shot 基于排名的上下文检索的世界事件预测

    机器预测现实事件的能力在决策中越来越受关注，本研究介绍了一种利用新闻文章进行事件预测的 AutoCast++ 系统，采用零样本排序和摘要方法来提取语义相关的新闻并获得简洁的上下文，通过多项指标的显著改善来提高多选和判断题的性能。

    Oct, 2023

  • ForecastQA：基于时序文本数据的事件预测问答挑战

    本文提出了一种基于大量非结构化文本数据的事件预测方法，即将其转化为一种限定领域的问答任务。特意构建了 ForecastQA 问答数据集用于测试，采用 BERT-based 模型，最终精度达到 60.1%，但还落后于人类表现约 19%。

    May, 2020

  • 语言模型是否能使用预测策略？

    深度学习系统在图像分类、基本编程和标准化测试中已经达到或超过了人类的准确率。然而，在预测未来事件的能力上，模型仍然难以取得准确的结果。本研究使用了一种新颖的真实世界事件数据集和相关的人类预测，提出了一个评估指标来衡量预测能力，并对不同基于 LLM 的预测模型在该数据集上的准确性进行了分析。结果显示，模型在预测未来方面仍然存在困难，可能是由于模型倾向于猜测大多数事件不太可能发生，这在许多预测数据集中是正确的，但并不反映实际的预测能力。我们对开发系统化和可靠的 LLM 预测方法的下一步工作进行了思考。

    Jun, 2024

  • 运用语言模型接近人类水平的预测

    利用语言模型进行预测可以在大规模上提供准确的预测结果，对于决策和政策制定具有重要意义。

    Feb, 2024

  • 未来技术对未来的预测：大型气象模型的进展

    该论文回顾了大型模型，尤其是采用深度学习技术的模型在天气预报中的进展和应用，强调它们在改善传统预报方法方面的作用。这些模型利用卷积神经网络（CNN）、图神经网络（GNN）和 Transformer 等先进的神经网络架构来处理各种气象数据，提高了各种时间尺度和空间分辨率上的预测准确性。论文还讨论了该领域的挑战，包括数据获取和计算需求，并探索了模型优化和硬件进展的未来机会。它强调了人工智能与传统气象技术的整合，承诺提高天气预报准确性，并在应对与气候相关的挑战方面做出重要贡献。这种协同作用将大型模型置于气象预报不断发展的前沿地位。

    Apr, 2024

  • 大型语言模型的预测能力：基于一个现实世界预测比赛的证据

    利用 OpenAI 的最先进的大型语言模型 GPT-4，我们在 Metaculus 平台上进行了为期三个月的预测比赛，并发现 GPT-4 在真实世界的预测任务中明显表现不佳，相较于中间值的人类众测，其概率预测明显不准确。

    Oct, 2023

  • 基于时间文档历史的未来语言建模

    预测未来的文本数据，结合时间历史背景，基于概率模型建立了未来语言模型。

    Apr, 2024

  • 引入 “预测话语” 用于对话式数据科学

    通过自然对话，智能代理能够协助用户进行预测任务，而无需深入了解机器学习过程，本文通过引入一种名为预测话语的新概念并聚焦于从这些话语中准确解读用户预测目标，将任务作为一个槽填充问题，然后采用两种零样本方法解决槽填充任务，即实体抽取和问答技术，我们通过三个经过精心构建的数据集进行实验证明了我们雄心勃勃的目标的可行性，并展示了实体抽取和问答技术在解读预测话语中的有效性。

    Sep, 2023

  • GenCast：基于扩散的中期天气集成预测

    基于机器学习的概率天气预测模型 GenCast 在 1 度分辨率下可以比传统的集合系统更准确地预测天气，并展示了良好的可靠性和物理一致性。

    Dec, 2023

  • PromptCast: 一种新的基于提示的时间序列预测学习范式

    本文探讨了基于提示的自然语言建模的范式下的时间序列表示学习问题，提出了基于提示的时间序列预测 (PromptCast) 模型，并介绍了一个大规模数据集 (PISA)，结果表明这种基于语言生成模型的提示方法是一种有前途的研究方向。

    Sep, 2022