risk assessment | BriefGPT - AI 论文速递

关键词risk assessment

搜索结果 - 55

演化网络拓扑下的电网运行风险评估的图神经网络
该研究探讨了图神经网络在没有明确的高分辨率信息（发电机状态、电网拓扑和电力调度决策）的情况下，能否识别未来几个小时内电网的风险状况。研究发现，基于图神经网络的可靠性和风险评估具有快速而准确的预测能力。
PDF2 months ago
通过 LIMM 编码调查员领域知识，将专家直觉转化为可量化的特征，以增强预测分析
通过使用大型语言模型，将调查人员的专业见解转化为可量化的可操作要素，以提高模型性能，并展示了该方法在风险评估和决策准确性方面的显著改进。
PDF2 months ago
MAP-Former：多智能体配对高斯联合预测
通过预测交通代理对的协方差矩阵，提出了一种 “场景中心” 的运动预测新方法，为基于统计方法的风险评估奠定基础。
PDF2 months ago
LLM 技术应用中的人类不可感知检索污染攻击
LLM 应用开发、检索增强生成、LLM 应用、检索污染以及风险评估是本文的关键词。作者揭示了一种称为检索污染的新威胁，攻击者可以通过欺骗 LLM 应用程序在检索生成过程中生成恶意回应，对应用程序进行破坏。通过分析 LLM 应用程序框架，攻击
PDF2 months ago
将乳腺癌自我筛查规则嵌入 AI 回复以增强 ChatGPT 提示的可解释性
该研究探讨了生成式人工智能（以 ChatGPT 3.5 Turbo 模型为重点）与乳腺癌风险评估的复杂性，旨在评估 ChatGPT 的推理能力，着重于其处理规则和提供筛查建议解释的潜力，并通过展示 ChatGPT 在自然语言推理方面的独特能
PDF2 months ago
利用 GPT-4V (ision) 进行保险业的初步探索
通过对 GPT-4V 在保险领域的能力进行探索，我们发现它在保险相关任务中展现出了出色的能力，不仅全面理解了保险领域中的多模态内容，还具备丰富的保险场景知识。然而，它在详细风险评估和损失评估方面存在明显不足，并在图像理解中出现了幻觉，并对不
PDF2 months ago
AI 法案与大型语言模型（LLMs）：关于重要问题和隐私影响时需要人类和道德监督
人工智能系统和大型语言模型的迅猛发展使得有必要评估它们在隐私保护、个人数据保护以及伦理层面上对最弱和最脆弱群体可能产生的风险和影响。本研究聚焦于人类监督、伦理监督和隐私影响评估。
PDF3 months ago
大型语言模型中的风险与应对：评估关键威胁类别
本文对大型语言模型（LLMs）中的风险评估问题进行了探讨，并重点研究了奖励模型在感知和分类不同类型风险时面临的挑战，通过使用 Anthropic Red 团队的数据集，对信息风险、恶意用途和歧视 / 仇恨内容等主要风险类别进行了分析，研究结
PDF3 months ago
参与 - AI：一个民主调查框架，用于预测未来人工智能的应用、危害和益处
以非专家的公众参与为基础，通过收集使用案例、评估风险、揭示 AI 发展的张力等方式，引入了 Particip-AI 框架以实现对 AI 的民主治理和风险评估，研究发现参与者的回应强调了个人生活和社会应用，显示了多样化的危害与专家评估的互补价
PDF3 months ago
LLM 安全风险评估：全面的利益相关方风险评估方案
利用 OWASP 风险评估方法，通过场景分析确定潜在威胁者并将系统组成部分与漏洞因素进行映射，从而评估网络攻击的可能性，并进一步进行综合影响分析以得出威胁矩阵，以提供对 LLM 相关风险的全面评估，帮助利益相关者制定有效的缓解策略。
PDF3 months ago
利用气象再分析数据对高物体上行闪电进行时空风险评估
通过应用随机森林机器学习算法分析上升闪电的测量数据与 35 个大尺度气象变量之间的关系，这项研究评估了东阿尔卑斯山及其周边地区上升闪电的风险，发现大尺度上行速度、风速和方向以及云物理变量对上升闪电风险评估贡献最大，并预测了研究区域每平方公里
PDF3 months ago
基于短时心电图和长时心率变异采样的多模态心力衰竭风险评估
该研究论文提出了多模式方法，结合 30 秒的心电图记录和近似的长期心率变异性数据（HRV）来估计心衰住院风险。实验结果显示，在心衰风险评估方面，所提出的方法具有较高的模型性能，并在多个外部心电图数据集上展示了竞争性的区分力。通过在 Appl
PDF4 months ago
用于评估大型语言模型中的保障措施的中文数据集
通过引入一个用于评估中文 LLM 安全性的数据集，我们扩展到其他两个场景，用于更好地识别有风险的提示拒绝的假阴性和假阳性示例，并提出了细化的每种风险类型的安全评估标准，为 LLM 响应的有害性进行手动注释和自动评估。我们在五个 LLM 上的
PDF4 months ago
基于重力信息的船舶流量与外来物种侵入风险预测的深度学习框架
基于物理启发模型和变压器的新模型开发以预测海上航运交通以及通过全球运输网络传播的入侵物种蔓延的风险评估和管理技术。
PDF5 months ago
基于长短期记忆网络（LSTM）的巴西警方报告中前置妇女谋杀风险模式识别
该研究使用长短期记忆（LSTM）技术对巴西警方报告中的女性亲杀案前的行为模式进行分析，并通过文本描述预测风险水平。第一目标是将报告内容分类为较低或较高的受害者被谋杀风险，实现了 66% 的准确率。第二个方法是根据事件序列预测受害者可能经历的
PDF6 months ago
METAL: 大型语言模型质量分析的变形测试框架
大型语言模型（LLMs）已经改变了自然语言数据处理的范式。我们提出了一个名为 METAL 的框架，用于通过应用变异测试技术对 LLM 的质量进行系统测试，并引入了新的度量方法来准确评估 Metamorphic Relations（MRs）的
PDF7 months ago
基于知识图谱嵌入和贝叶斯推理的车辆换道预测
基于语言上下文信息利用知识图谱实现车道变更预测，并应用贝叶斯推理，预测车道变更两秒前的 f1 得分为 97.95%，领先于现有技术，三秒前的 f1 得分为 93.60%。
PDF7 months ago
HKTGNN：基于层次知识迁移图神经网络的供应链风险评估
建立供应链风险评估模型以有效管理和缓解潜在风险的重要性逐渐增加，本文提出了一种基于层次化的知识可迁移图神经网络的供应链风险评估模型，通过图嵌入方法将供应链网络嵌入到基本产品网络中，解决了数据饥饿问题，实验证明该模型在实际供应链数据集上表现优
PDF8 months ago
LoRA 高效地撤销了 Llama 2-Chat 70B 中的安全训练
在研究中，我们通过秘密地微调公开权重，探索了语言模型安全训练的强壮性，成功降低了有害指令的拒绝率，证明了背离微调是切实可行和有效的。因此，我们主张在发布模型权重时，风险评估应将微调风险评估作为核心部分。
PDF8 months ago
语义漏洞嵌入的漏洞聚类与其他机器学习应用
利用自然语言处理技术获得漏洞空间的简洁表示，并作为机器学习应用的基础，支持网络安全研究人员和分析师进行风险评估等相关活动。
PDF10 months ago