绝对位置编码长度外推会出现训练没见过的位置编码,相对编码很关注相对距离,长度外推的时候,推出去的token和length内的token还是有相对位置见过的?(感觉好像也没细想过这个问题,一般只知道绝对位置不好外推😂
4 1

相关推荐

mt 算法 n*15.5
helloRachel:有学长在快手,感觉发展很好,待遇也很高~还有很多体贴的小奖品,可以冲冲
点赞 评论 收藏
分享
11-07 23:53
已编辑
门头沟学院 算法工程师
腾讯 新闻后台 税前n+16
点赞 评论 收藏
分享
不愿透露姓名的神秘牛友
11-01 00:24
投票
OfferOfferOn:hr电话后,据说还要排序
点赞 评论 收藏
分享
牛客网
牛客企业服务