2024-03-14 20:37 浙江大学 算法工程师
关注
Megatron-lm 计算tp值
给定模型参数：
模型层数l
模型维度d_model
输入长度seq_len
注意力头head
怎么计算tp
模型层数l
模型维度d_model
输入长度seq_len
注意力头head
怎么计算tp
全部评论
牛客890255255号
清华大学 人工智能
感觉是和注意力头有关 求答案🤔
相关推荐
查看17道真题和解析
全站热榜
更多
创作者周榜
更多
正在热议
更多
# 春招什么时候投？ #
7320次浏览 116人参与
# 牛友的春节生活 #
3948次浏览 109人参与
# 春节前，你还在投简历吗？ #
10121次浏览 132人参与
# 从夯到拉，锐评职场mentor #
2793次浏览 55人参与
# 牛客AI体验站 #
14040次浏览 262人参与
# 实习到现在，你最困惑的一个问题 #
2957次浏览 95人参与
# 春节提前走，你用什么理由请假？ #
6562次浏览 167人参与
# 备战春招/暑实，现在应该做什么？ #
2714次浏览 99人参与
# 距离春招还有一个月，你现在是什么开局？ #
4319次浏览 92人参与
# 聊聊Agent开发 #
19431次浏览 516人参与
# 暑期实习什么时候投？ #
5002次浏览 128人参与
# 推荐一个值得做的AI项目 #
5308次浏览 153人参与
# 听劝，这个简历怎么改 #
380655次浏览 1826人参与
# 机械人的秋招小目标 #
28350次浏览 239人参与
# 我的AI电子员工 #
27641次浏览 186人参与
# 腾讯工作体验 #
568224次浏览 3712人参与
# 参加完秋招的机械人，还参加春招吗？ #
108288次浏览 704人参与
# 实习的内耗时刻 #
221518次浏览 1643人参与
# 互联网公司评价 #
488478次浏览 4119人参与
# bilibili求职进展汇总 #
180888次浏览 1074人参与