绝对位置编码长度外推会出现训练没见过的位置编码,相对编码很关注相对距离,长度外推的时候,推出去的token和length内的token还是有相对位置见过的?(感觉好像也没细想过这个问题,一般只知道绝对位置不好外推😂
4 1

相关推荐

牛客60022193...:大厂都招前端,他们觉得AI能替代前端,可能他们公司吊打btaj吧
点赞 评论 收藏
分享
点赞 评论 收藏
分享
牛客网
牛客网在线编程
牛客网题解
牛客企业服务