首页 > 试题广场 >

在大型语言模型的量化部署中,最常见的技术权衡是什么?

[单选题]
在大型语言模型的量化部署中,最常见的技术权衡是什么?
  • 模型尺寸减小但推理精度可能下降
  • 训练加速但泛化能力减弱
  • 推理延迟增加但训练效率提升
  • 参数数量增加但内存占用减少

这道题你会答吗?花几分钟告诉大家答案吧!