首页 > 试题广场 >

在部署大型语言模型到边缘设备时，哪个技术能有效减少模型大小和

[单选题]
在部署大型语言模型到边缘设备时，哪个技术能有效减少模型大小和推理延迟，同时最小化精度损失？ 
  • 增加隐藏层维度
  • 使用数据并行加速训练
  • 动态模型替换
  • 后训练量化（如INT8）
查看答案及解析
添加回答

这道题你会答吗？花几分钟告诉大家答案吧！

提交观点

问题信息

大模型开发
难度：
0条回答 14浏览

热门推荐

相关试题

扫一扫，把题目装进口袋

求职之前，先上牛客

扫描二维码，进入QQ群

扫描二维码，关注牛客公众号