直观理解it可以指tiger或sheep,人依靠语意可以理解到应该指的是tiger,transformer多头注意力会出现有的头it会attend tiger有的attend sheep,这是为什么要用多头,全连接层和多头何冰后乘的输出矩阵会有筛选效果。最终到底指什么还是根据你的语料库或者训练任务来的,仅仅只给出这一句话理论上学不出
6 3

相关推荐

中国移动成都市公司 技术岗 9-14w
点赞 评论 收藏
分享
11-27 23:45
已编辑
南开大学 算法工程师
NKZZD:已经面完,如果一面过了立即二面,如果不过直接就短信人才库了。一面单面,二面好像是群面。海面,不建议来,待遇一般且基本没有户口指标,如果是博士可能好点。
点赞 评论 收藏
分享
牛客网
牛客企业服务