研究聚焦于 NSFW 内容检测在开放域对话系统中带来的副作用，介绍了一个对话监控数据集 CensorChat，利用 GPT-4 和 ChatGPT 进行知识蒸馏，开发了一种成本效益高的 NSFW 内容检测方法，强调了在数字对话中 AI 系统优先考虑用户安全和福祉，同时尊重言论自由。

Sep, 2023

本文提出了一个两步骤的半监督方法来从公共资源中引导大规模数据，以自动检测敏感语言，展示该方法在公共标注数据集和所提出的半监督数据集上显示出的优异表现和泛化能力，无需为敏感类别提供显式标签，从而在 Twitter 和 Toxic Wikipedia test 数据上实现了高达 95.5％的 F1 得分。

Nov, 2018

通过利用大型语言模型 (ChatGPT) 和知识驱动提示构建的分析框架，我们首次对社交媒体上的非法药物交易活动进行了系统研究，实验结果表明该框架在药物贩运检测准确性方面优于其他基准语言模型，该研究可为社交网络提供有效的药物贩运识别和标注，甚至在非法药物交易者使用隐晦语言和委婉语避免检测的情况下仍然有效。

Jul, 2023

本研究的主要目的是提供 ChatGPT 检测的最新技术的全面评估，同时我们评估了其他 AI 生成的文本检测工具，以检测 ChatGPT 生成的内容。此外，我们还创建了一个基准数据集用于评估各种技术在检测 ChatGPT 生成内容方面的性能。研究结果表明，现有方法都不能有效地检测 ChatGPT 生成的内容。

Apr, 2023

介绍了一种混合神经和基于规则的上下文感知系统，利用共指消解来识别色情内容中的有害上下文线索，并通过与专业的审查员合作，编制了一个数据集并开发了一个能够区分有害和无害色情内容的分类器。在波兰文本上测试的混合模型展示了 84% 的准确率和 80% 的召回率，强调了共指消解在检测有害色情这类细微内容中的重要性。这种方法还提供了增强的视觉可解释性，支持审查员评估预测结果并采取必要的行动来解决有害内容。

Oct, 2023

ChatGPT 是最流行的语言模型之一，在各种自然语言任务上表现出色。本研究的目的是全面调查这些方法在分布偏移下的泛化行为，包括提示、文本长度、主题和语言任务，从而为 ChatGPT 检测的未来方法或数据收集策略的开发提供指导。

Oct, 2023

聊天 GPT 生成科技文本检测方法 AI-Catcher 融合 MLP 和 CNN 模型，通过对语言和统计特征进行特性学习以及从文本内容中提取顺序模式的高级表示，能更准确地区分人类撰写和 GPT 生成的科技文本，平均提高 37.4% 的准确性。

Feb, 2024

用于区分 ChatGPT 生成文本和人类生成文本的当前方法的综述，包括构建用于检测 ChatGPT 生成文本的不同数据集，采用的各种方法，对人类与 ChatGPT 生成文本特征的定性分析，并最终总结研究结果为一般性见解。

Sep, 2023

利用机器学习模型对文章进行自动生成的大语言模型，在知识产权保护、个人隐私和学术诚信方面引发了关注。AI 文本检测系统目前存在鲁棒性不足和难以有效区分扰动文本的问题。本研究通过模拟真实场景，评估当前检测模型在实际应用中的性能，并构建了 12 种黑盒文本扰动方法来评估检测模型的鲁棒性。此外，通过对抗学习实验，研究扰动数据增强对 AI 文本检测器鲁棒性的影响。

Jun, 2024

该论文提出了一种基于大型语言模型的工程知识系统的自动化和半自动化框架，使用 ChatGPT 和提示式工程，对领域知识进行提取。研究发现，虽然全自动领域知识本体构建是可行的，但人工监督和早期干预通常能提高效率和输出质量。因此，还开发了一个基于 Web 的蒸馏助手，以实现监督和灵活干预。希望这些发现和工具能够激发未来领域知识工程的研究，从而彻底改变应用领域的知识系统的工程。

Jul, 2023