首页 > 试题广场 >

在大模型推理阶段,采用INT8量化技术的主要目的是什么?

[单选题]
在大模型推理阶段,采用INT8量化技术的主要目的是什么?
  • 显著提升模型输出的精度
  • 减少显存占用并加速推理计算
  • 增加模型的参数量以提升表达能力
  • 降低模型训练时的计算成本

这道题你会答吗?花几分钟告诉大家答案吧!