避免生成式 AI 模型中有害医疗产品推荐和非标示推广的保障措施
人工智能在医疗保健领域产生了显著影响,特别是通过生成模型在医学图像生成、数据分析和诊断方面的应用。这篇文章探讨了生成模型在智能医疗设备中的应用,以提升诊断速度和准确性,改善医疗服务质量和效率并降低设备成本,实现了医学图像生成、数据分析和诊断的突破。此外,将生成模型与物联网技术结合,可以实现实时数据分析和预测,提供更智能的医疗服务,帮助远程医疗。挑战包括计算需求、伦理关注和特定场景的限制。
Jun, 2024
生成式人工智能技术(GenAI)可能被用于积极和消极目的,这篇论文讨论了 GenAI 所带来的双重用途困境,并提出了针对此问题的短期和长期目标,旨在引发学术界对此重要主题的深入讨论。
Aug, 2023
发展分析和缓解策略,提供了一个初始框架来理解模型限制、尊重隐私、保密和版权、避免抄袭和政策违规、确保应用程序提供整体利益,并透明可重现地使用人工智能,以保护研究的完整性。
Jan, 2024
人工智能的进展推动了医疗保健领域的革命性变化,其中包括生成式人工智能模型,特别是转换器和扩散模型的应用。本综述旨在全面介绍生成式人工智能在医疗保健中的应用,重点关注转换器和扩散模型,并提出未来研究的潜在方向,以应对医疗保健部门的现有限制和不断变化的需求。作为对对生成式人工智能在医疗保健领域应用感兴趣的研究人员和实践者的全面指南,本综述提供了有关当前技术水平、面临的挑战以及未来发展方向的宝贵见解。
Oct, 2023
近年来,生成性人工智能(GenAI)如大型语言模型和文本到图像模型,在各个领域引起了重大关注。然而,确保这些模型生成的内容是负责任的对于它们在实际应用中的重要性至关重要。本文就文本和图像生成模型的实际负责任要求进行了调查研究,概述了五个关键考虑因素:生成真实内容、避免有害内容、拒绝有害指令、泄露与训练数据相关的内容以及确保生成的内容可识别。具体来说,我们回顾了解决这些要求的最新进展和挑战。此外,我们讨论并强调了在医疗保健、教育、金融和人工智能领域中负责任的 GenAI 的重要性。通过统一的文本和图像生成模型视角,本文旨在为实际安全相关问题提供见解,并进一步造福于建设负责任的 GenAI 了解相关社区。
Apr, 2024
通过使用最佳可用证据赋予医疗决策和实践更好的质量,循证医学旨在改善医疗保健。然而,医学证据的快速增长来自不同的来源,这在收集、评估和综合证据信息方面带来了挑战。最近发展的生成 AI 模型,如大型语言模型,有望在简化艰巨任务方面发挥作用。然而,开发负责任、公平和包容的模型仍然是一项复杂的工作。在这个视角中,我们讨论了生成 AI 在自动摘要医学证据的情境中的可信度问题。
Nov, 2023
该研究针对生成式人工智能应用于医学成像和文本分析时带来的伦理问题、法律问题和算法挑战进行了深入研究,并提出了负责任的解决方案和强有力的监管框架,以确保生成式人工智能在医疗领域的道德和负责任的实施。
Jun, 2024
生成式 AI 模型的应用带来了数字化机会,同时也引入了新的 IT 安全风险。在将生成式 AI 集成到工作流程中之前,公司、机构、开发者和操作员都应进行风险分析,并相应地调整和采取安全措施。
Jun, 2024
AI 引发了对公众意见的操纵和扭曲,本研究以三个方面为基础,展示了 AI 制造虚假 UGC 的能力,量化了 UGC 对市场研究的干扰影响,并提出和评估了高级检测框架,呼吁综合手段保护市场研究的安全,包括高级算法解决方案、人工审核和伦理规范,为未来研究和制定政策提供基础。
Mar, 2024
通过分析 378 个伦理问题的 19 个主题领域,本研究综述了生成人工智能伦理问题的分类和排名,主要关注大型语言模型和图像生成模型,为学者、从业人员和政策制定者提供了关于公平性、安全性、有害内容、幻觉、隐私、交互风险、安全性、社会影响等伦理争论的全面概述,并讨论了结果、评估了文献中的不平衡现象,并探讨了未经证实的风险场景。
Feb, 2024