通过 fine-tuned LLMs 调整，研究 HTML 理解（元素语义分类，输入描述生成和自主网页导航）任务。 T5-based models 表现最佳，提出一个来自 CommonCrawl 的大规模 HTML 数据集。

Oct, 2022

本文介绍了一种名为 FreeDOM 的新型两阶段神经方法，该方法通过结合文本和标记信息以及使用关系神经网络来捕捉更长的距离和语义关联性，可以从少量的种子站点的训练中泛化到未知的站点，而无需昂贵的手工制作特征或页面的可视化呈现。实验结果表明，FreeDOM 平均比现有技术高出近 3.7 个 F1 点。

Oct, 2020

本研究论文探讨了一种名为 MarkupLM 的预训练模型，它能够对 HTML/XML 等标记语言的文档进行理解和分析，相比现有的基于布局的预训练方法，在布局可交互和动态渲染的数字文档中有着更好的性能表现。实验证明，该预训练模型在多个文档理解任务上，比现有的强基线模型表现更优秀。

Oct, 2021

介绍了一种基于 HTML 训练的超文本语言模型 HTLM，使用 BART-style denoising loss 在简化 HTML 上进行预训练可对广泛端任务和监督级别提供高效的迁移，同时比纯文本模型表现更好，能够自动完成大部分的超文本格式转换，且零样本摘要效果最佳。

Jul, 2021

通过整合文本、结构和图像等多模态信息，使用多模态预训练网络进行自动文档理解和信息提取，实现了对网页的深入理解，显著提高了网页理解任务的性能。

Feb, 2024

大型语言模型（LLM）在训练时使用了大量的代码，表现出了对 HTML 代码的卓越理解能力。因为 Web 界面主要使用 HTML 构建，所以我们进行了深入研究，探讨 LLM 如何用于在 Web 界面中检索和定位用户查询（即任务描述）的重要元素。与以往主要侧重于自主 Web 导航的研究不同，我们将问题分解为一个更为原子化的操作 - LLM 能否识别 Web 页面中对用户查询重要的信息？这种分解使我们能够审视 LLM 的当前能力并揭示其所带来的机遇和挑战。我们的实证实验证明，虽然 LLM 在检索重要的用户界面元素方面表现出了合理的性能水平，但仍然有很大的改进空间。我们希望我们的研究能够激发在这一领域克服当前挑战的后续工作。

Dec, 2023

本文介绍了一种新方法 --SimpDOM，可以高效地从 HTML 文档中提取结构化对象的各种属性，为大规模知识库构建、电子商务产品搜索和个性化推荐等下游应用提供帮助，并通过在 SWDE 公共数据集上的广泛实验展示了 SimpDOM 的良好性能。

Jan, 2021

本文介绍 DOM-Q-NET，一种基于深度强化学习和图神经网络的网页导航新架构。该架构通过将 Q 函数参数化为不同行动类别的网络，解决了当前深度强化学习模型在网页导航任务中因动作空间巨大和状态之间变化的不确定性等问题的难点。结果表明，该模型在 MiniWoB 环境中可以达到或者超过现有工作，同时在多任务设置中可以提高 2 倍的样本效率。

Feb, 2019

使用已经训练好的大型语言模型与 RAG 模型结合，研究了一种通用准确的数据抓取方法，该方法能够从非结构化文本中提取复杂数据。未来的研究方向包括解决溯源追踪和动态知识更新等挑战，在提取数据的方法和框架方面潜力巨大。

Jun, 2024

从无标注数据中预训练了一种能够包括来自整个文档的上下文信息的分层文档表示，包括定长的句子 / 段落表示，并应用于文档分割、文档级问答和抽取式文档摘要等方面取得了有效结果。

Jan, 2019