人工智能建议使写作趋于西方风格并减弱文化细微差别
本研究利用神经语言模型对多词语建议在电子邮件写作中的输入和文本组合方面对外语和非外语人士的行为进行了研究,发现多词语建议提高了想象力,但牺牲了效率,非母语人士对多个建议的词语受益更多。我们探讨了这些发现对于研究、交互式建议系统的设计以及支持作家与 AI 合作的愿景的影响。
Jan, 2021
本文探讨了人工智能在移动设备上写作的两种用户界面设计,通过一个被监督的在线研究得出,无论是使用连续生成文本的方式还是建议写作的方式人工智能在撰写过程中都会影响文本创作,但两种设计存在差异,需要在用户体验和用户输出方面做出不同的选择。
Aug, 2022
研究了自然语言生成技术在人工智能辅助写作工具中的应用。通过信息检索的角度从“拔式”和“推式”两个范式进行比较用户研究,以了解AI辅助写作的用户需求、对写作质量、所有权、写作过程的效率和愉悦度的影响,以及AI偏见的影响。研究发现用户欢迎AI在他们的写作中提供无缝协助,并且AI在保持写作清晰简洁的同时帮助用户使其写作思路更加丰富,用户也享受与AI合作。尽管参与者在实验中没有经历到偏见,但他们仍然表达了明确的担忧,这应在未来的AI辅助写作工具中加以解决。
Jun, 2023
文化在人们的推理、行为和交流中起着根本性的作用。生成性人工智能(AI)技术可能导致文化的转变。我们对大型语言模型进行文化偏差审核,将它们的回应与全国代表性调查数据进行比较,并评估特定国家的提示作为缓解策略。我们发现,GPT-4、3.5和3展现出类似英语和新教欧洲国家的文化价值观。我们的缓解策略减少了近期模型中的文化偏差,但并不适用于所有国家/地区。为了避免在生成性人工智能中存在文化偏见,尤其是在高风险环境中,我们建议使用文化匹配和持续进行文化审核。
Nov, 2023
解釋性人工智能 (XAI) 系統需要考慮人們的文化差異,並確定不同文化背景下的使用者對於解釋的需求,以免產生文化偏見,目前的研究普遍忽略了這方面的變異,這項研究旨在填補這一知識空白。
Feb, 2024
CulturalTeaming是一个人工智能系统,与人类合作创建多元文化知识评估数据集,通过与人类的互动合作,利用大型语言模型的自动化功能,提高文本注释者的能力并改善他们的体验,从而评估大型语言模型的多元文化知识,并揭示了现代大型语言模型在多元文化能力上存在的显著差距。
Apr, 2024
本文批判性讨论了生成型人工智能(GenAI)如何在非西方社会中强加西方意识形态,通过其固有偏见在教育中持续推行数字新殖民主义,并提出了缓解这些影响的策略。我们的讨论表明,GenAI可以通过生成主要涉及西方学生文化参考和例子的内容来培育文化帝国主义,从而使非西方学生感到疏离。此外,GenAI对西方语言的主要使用可能会边缘化非主导语言,使其难以获得教育内容,潜在地影响他们以母语学习的能力。此外,GenAI经常生成反映技术主导国家观点的内容和课程,盖过被边缘化的土著知识和做法。此外,GenAI的访问成本加剧了教育不平等,并且GenAI数据的控制可能导致商业利用,而并未使当地学生及其社区受益。我们提出了以人为中心的改革,以优先考虑GenAI开发中的文化多样性和公平性;解放性设计,赋予教育者和学生识别和瓦解GenAI应用程序中的压迫结构的能力;设计前瞻性,创建可调整的GenAI系统以满足未来的教育需求;最后,有效的提示技巧来减少新殖民主义产出的检索。
Jun, 2024
通过人工智能协作共同开发的领域特定写作助手分类系统来解决大型语言模型在商业背景下理解能力的限制,为不同利益相关者提供定制化的大型语言模型驱动的写作辅助功能。
Jun, 2024