Feb, 2024
FhGenie：为企业和科学使用而定制的保密的聊天人工智能
FhGenie: A Custom, Confidentiality-preserving Chat AI for Corporate and Scientific Use
Ingo Weber, Hendrik Linka, Daniel Mertens, Tamara Muryshkin, Heinrich Opgenoorth...
TL;DR自 OpenAI 发布 ChatGPT 以来，生成型人工智能在各个领域引起了很大的关注。这些基于人工智能的聊天系统有潜力提高知识工作者在各种任务中的生产力，然而，使用免费公共服务存在数据泄露的风险，因为服务提供商可能在没有明确边界的情况下利用用户输入进行额外的训练和优化，即使是基于订阅的替代方案在处理用户数据方面有时也缺乏透明度。为了解决这些问题并确保 Fraunhofer 员工能够利用这项技术同时保证机密性，我们设计和开发了一个定制的聊天人工智能系统，称为 FhGenie（genie 是一种指代有帮助精神的系统）。在其发布后的几天内，数千名 Fraunhofer 员工开始使用该服务。作为实施这样一个系统的先驱，许多其他组织也纷纷效仿。我们的解决方案借鉴了商业的大型语言模型（LLMs），并将其精心整合到我们的系统中，以满足我们的特定要求和合规约束，包括保密性和 GDPR。在本文中，我们分享了关于 FhGenie 的架构考虑、设计、实施和随后的更新的详细见解。此外，我们还讨论了从其生产使用中面临的挑战、观察和核心经验教训。