May, 2023

一种将基于 BERT 的词嵌入、基于 Attention 的 LSTMs 和改进的差分进化算法相结合的新型剽窃检测方法

PDF
TL;DR本研究提出了一种基于注意力机制的长短时记忆（LSTM）和双向编码器表示来自变压器（BERT）词嵌入的检测抄袭的新方法，它使用经过优化的差分进化（DE）方法进行预训练和使用聚类基础变异运算符的 DE 算法来引发 BP 过程。证明该方法与传统方法和基于人口的方法相比具有良好性能。
发现论文，激发创造
  • BERT 增强的作业抄袭检测系统检索工具

    基于 GPT-3.5 的抄袭文本数据生成方法和基于 Faiss with BERT 的抄袭识别方法在文本抄袭检测任务中表现优异，并提供用户友好的演示平台。

    Apr, 2024

  • AI 生成之抄袭侦测：从句子到文件级别

    使用自然语言处理技术的对比学习方法，通过多重语义解读对大型语言模型的生成文本进行分析，达到了 94% 的准确率，在学术界检测人工智能生成的文本的抄袭和欺诈具有强大的适应性和可靠性。

    Jun, 2023

  • 跨语言抄袭检测的简单有效方法

    本研究提出了一种简单的跨语言抄袭检测方法，不依赖于机器翻译和词义消歧，适用于许多语言，包括资源匮乏的语言，其有效性已证明在几个现有和新的基准中达到了最先进的成果，特别是对于法语、俄语和亚美尼亚语，其依赖于开放式多语言词库和预先训练好的多语言 BERT 语言模型。

    Apr, 2023

  • 通过对比使用来锻造语言模型自我抄袭中的独创性

    通过采用对比解码策略来提高预训练语言模型产生原创内容的独特方法，观察了在学术和故事数据集中超过三个词的非原创序列的显著下降。

    Jun, 2024

  • Ditto: 一种简单高效改善句向量表示的方法

    该研究提出了一种名为 Diagonal Attention Pooling (Ditto) 的无监督方法来解决 BERT 等预训练语言模型中句子表示的各向异性问题，通过基于模型的重要性估计对单词进行加权，改进了语义文本相似度 (STS) 任务的性能。

    May, 2023

  • 使用单词嵌入进行跨语言抄袭检测

    本文提出使用分布式单词表示（word embeddings）来进行跨语言文本相似度检测，并通过组合不同的方法来验证它们的补充性，最终在非常具有挑战性的语料库上，在块级别下实现了英法相似度检测的总体 F1 得分 89.15％（在句级别下为 88.5％）。

    Feb, 2017

  • PlagBench: 大型语言模型在抄袭生成和检测中的二元性探索

    最近的文献强调了大型语言模型（LLMs）与学术诚信相关的潜在风险，它们可以记忆部分训练实例并在生成的文本中无妥善归属地复制。此外，鉴于它们在生成高质量文本方面的能力，剽窃者可以利用 LLMs 生成与原作无法区分的逼真释义或摘要。为了应对 LLMs 可能在剽窃行为中的恶意使用，我们介绍了 PlagBench，这是一个综合的数据集，由三个针对不同写作领域的三个指导调整的 LLMs 生成的 46.5K 个合成剽窃案例组成。通过对每种类型的剽窃进行细粒度的自动评估和人工注释来确保 PlagBench 的质量。然后，我们利用我们提出的数据集来评估五个现代 LLMs 和三个专门的剽窃检测器的剽窃检测性能。我们的研究结果表明，与 Llama2 和 GPT-4 相比，GPT-3.5 倾向于生成更高质量的释义和摘要。尽管 LLMs 在摘要剽窃识别方面表现较差，但它们可以超过当前的商业剽窃检测器。总体而言，我们的结果突显了 LLMs 作为强大剽窃检测工具的潜力。

    Jun, 2024

  • 利用预训练语言模型的提示学习技术进行阿尔茨海默病检测

    本文通过使用基于提示的微调技术，结合语音中存在的顿挫特征，优化了已有的语言模型，建立了一套 AD 自动检测系统，实验结果表明利用提高语调或语速左右的提示词建议的自然而然的语音可以有效提高自动检测系统的性能。

    Oct, 2022

  • 将双向长短期记忆网络与子单词嵌入结合，用于作者归属度量

    本文提出了一种基于双向长短期记忆 (BLSTM) 和二维卷积神经网络 (CNN) 的方法来进行文本作者识别，通过使用子词信息获得特征之间的顺序关系以及了解风格的局部语法位置，实验证明该方法相比其他最新方法在 CCAT50 和 Twitter 上分别提高了 1.07％和 0.96％的准确率，并在其余数据集上产生了可比较的结果。

    Jun, 2023

  • DABERT：用于语义匹配的双重注意力增强 BERT

    本文提出了一种新的 Dual Attention Enhanced BERT 模型来提高 BERT 对句子对微妙差异的捕捉能力，该模型包含双重关注模块和自适应融合模块，可以显著提升在语义匹配领域的表现。

    Oct, 2022