conversational large language models | BriefGPT

关键词conversational large language models

搜索结果 - 5

语言模型中的拒绝是由单方向引发的
通过分析大型对话式语言模型中拒绝行为的机制，提出了一种解禁方法，并展示了如何通过了解模型内部来控制模型行为。
PDF19 days ago
理解越狱成功：大型语言模型中潜空间动力学的研究
对话式大型语言模型的研究中发现，监狱破解技术可以绕过模型的安全保障，通过分析模型对不同类型的监狱破解输入的激活情况，发现可以从一类监狱破解中提取出能够减少其他类监狱破解效果的监狱破解向量，而这或许意味着不同类型的有效的监狱破解通过相似的内部
PDF23 days ago
COLING新闻去偏见的对话 LLMs 的陷阱
本研究探讨新闻编辑中的去偏见化问题，并评估了对话式大型语言模型在此任务中的有效性。我们设计了一份适用于新闻编辑的评估清单，使用公开可得的媒体偏见数据集的子集获取了三种流行的对话式模型生成的文字，并按照设计的清单对这些文字进行了评估。此外，我
PDF3 months ago
平衡增强、无害性和通用能力：通过直接 RLHF 提高对话式 LLMs
通过采用无害的来自人类反馈的强化学习方法，我们绕过了监督微调，直接应用于 Mistral，从而创建了 Mistral-Plus，它不仅保留了基础模型的通用能力，还显著增强了其对话能力，并大幅减少了有毒输出的生成。
PDF4 months ago
当心言辞：评估会话式大型语言模型的词汇丰富性
评估使用语言模型生成的文本的词汇丰富性及其与模型参数的相关性。
PDF5 months ago