iu嘟嘟
2019-06-22 22:11 门头沟学院 算法工程师
关注
Bert 是通过DAE方式来预训练的，其学习到的是词的上下文表征信息，而学习不到这种词与词之间的组合信息。 这些都需要看你 Decoder 的部分，可以看看GPT 和 MASS 是怎么做的。 最新的 XLNet 可以解决你这个烦恼，问题是，***又要学，，学不动了啊。
查看原帖
点赞 1
相关推荐
牛客热帖
正在热议
# 25届秋招总结 #
236988次浏览 1938人参与
# 学历or实习经历，哪个更重要 #
40172次浏览 292人参与
# 北方华创开奖 #
22137次浏览 251人参与
# 地方国企笔面经互助 #
2395次浏览 6人参与
# 你最想要的公司福利是？ #
38319次浏览 85人参与
# 选完offer后，你后悔学本专业吗 #
8720次浏览 58人参与
# 应届生被毁约被毁意向了怎么办 #
25978次浏览 236人参与
# 机械应届生薪资要多少才合适？ #
12208次浏览 59人参与
# 查收我的offer竞争力报告 #
15458次浏览 210人参与
# 一觉醒来，我觉醒了超级打工人系统 #
2634次浏览 32人参与
# 没有实习经历，还有机会进大厂吗 #
804135次浏览 13798人参与
# 你觉得第一学历对求职有影响吗？ #
14750次浏览 121人参与
# 我的工作日记 #
20896次浏览 270人参与
# 不给转正的实习，你还去吗 #
1515114次浏览 16959人参与
# 寒假躺平还是提前实习 #
57770次浏览 424人参与
# 秋招OC许愿 #
225528次浏览 1861人参与
# 秋招被确诊为…… #
52306次浏览 292人参与
# 如何一边实习一边秋招 #
983626次浏览 12570人参与
# 总结:哪家公司面试体验感最差 #
25000次浏览 121人参与
# 公司情报交流地 #
31417次浏览 222人参与
# 面试题刺客退退退 #
136212次浏览 2082人参与