通过研究 LLM 生成的合成数据的表现与分类的主观性之间的关系，我们发现主观性对于模型训练的合成数据的性能具有负面影响，从而限制了利用 LLM 进行合成数据生成的潜力和局限性。

Oct, 2023

我们提出了一种利用大语言模型（LLM）和图像生成模型的优点来创建合成图像 - 文本对的新方法，以用于视觉语言模型（VLM）的高效训练。通过预训练一个文本到图像模型来合成由 LLM 生成的图像嵌入，我们的方法能够用合成数据训练出仅需使用人工标注数据一小部分的 VLM，并在图像字幕任务中展现出相当的性能。此研究为生成大规模、可定制的图像数据集引入了一项有前景的技术，从而提升了 VLM 性能，拓展了其在各个领域中的适用性，并改善了数据效率和资源利用。

Mar, 2024

综述了大规模语言模型（LLMs）生成内容检测的现有策略和基准，并指出该领域的关键挑战和前景，提倡采用更加适应性和稳健的模型来提高检测准确性，以及应对 LLMs 能力快速发展的多方面防御方法的必要性。该工作是在 LLMs 时代首部全面综述内容检测的研究，旨在为研究人员和从业者提供广泛了解 LLMs 生成内容检测的当前情况的指导参考，以保护数字信息的完整性。

Oct, 2023

我们提供了对大语言模型的生成文本影响的全面分析，并强调了当前最先进的 GPT 检测器中可能存在的鲁棒性缺失。为了解决学术写作中滥用大语言模型的问题，我们提出了一种基于参考文本的孪生检测器 Synthetic-Siamese，将一对文本作为查询和参考，该方法有效解决了以前检测器（OpenAI detector 和 DetectGPT）的鲁棒性缺失，并将基线性能在实际学术写作场景中提高了约 67% 至 95%。

Jan, 2024

使用 ChatGPT 生成综合训练数据提高去偏置大型语言模型的方法表明，可以在降低计算成本、数据限制和多任务语言能力降低的情况下，有效地减少大型语言模型的社会偏见，并具有跨类别的去偏置性能。

Feb, 2024

本文介绍了受控产生合成文本的方法，以解决政治科学家在使用受监督文本模型方面面临的挑战。作者用三个应用程序证明了合成文本的实用性，包括生成描述乌克兰战斗的虚拟推文，为训练事件检测系统的合成新闻文章，以及训练句子级民粹主义分类器的多语言语料库。

Mar, 2023

研究表明，在监管机构的强制执行下，利用 ChatGPT 作为辅助工具的标注方式能够提高标注的准确性和一致性，从而更好地检测时下热门的社交媒体影响力营销推广，更好地遵守监管要求，提高帖子的透明度。

Jun, 2023

通过对高质量合成歌词进行综合定量评估，我们基于 LIM2 模型构建的最佳 few-shot 检测器，在区分人工创作和机器生成的内容方面超越了样式和统计方法，并且对新艺术家和模型具有良好的泛化能力，同时有效地检测后期生成的改写。

Jun, 2024

通过利用大型语言模型 (ChatGPT) 和知识驱动提示构建的分析框架，我们首次对社交媒体上的非法药物交易活动进行了系统研究，实验结果表明该框架在药物贩运检测准确性方面优于其他基准语言模型，该研究可为社交网络提供有效的药物贩运识别和标注，甚至在非法药物交易者使用隐晦语言和委婉语避免检测的情况下仍然有效。

Jul, 2023

本篇研究针对近年来大模型语言技术的快速普及及不断提高的适应性，提出了具有高效性和稳定性的人造文本检测方法。该方法能够辨别多种模型和解码策略生成的人造文本，并具有抗检测的能力。此外，研究还对机器生成文本检测机制的鲁棒性做出了贡献，揭示了在使用大规模语言模型技术时存在的社会和伦理问题，并提出了相应的解决方案。

May, 2023