Dec, 2023
规模逐步缩小:以成本效益分析替换 OpenAI GPT-4 与自托管的开源 SLM 在生产中
Scaling Down to Scale Up: A Cost-Benefit Analysis of Replacing OpenAI's GPT-4 with Self-Hosted Open Source SLMs in Production
Chandra Irugalbandara, Ashish Mahendra, Roland Daynauth, Tharuka Kasthuri Arachchige, Krisztian Flautner...
TL;DR本文介绍了一种系统评估方法,用于替代现有专有语言模型应用程序接口(APIs)的现代开源小语言模型,并进行了对比测试,发现其具有竞争力的结果质量,显著的性能一致性改进和降低 5 倍至 29 倍的成本。