爱打瞌睡的柯基
08-20 16:37 门头沟学院 自然语言处理
关注
预训练所有token位置都计算损失、SFT一般只有答案部分计算损失（提问部分label是-100）
预训练是为了吃知识、SFT为了指令遵循
查看原帖
7 4
相关推荐
小猫茉莉：是真的真的有反转！
查看图片 点赞 评论 收藏
分享
11-01 17:55
山西财经大学 策略运营 
点赞 评论 收藏
分享
牛客热帖
正在热议
# 25届秋招公司红黑榜 #
111061次浏览 583人参与
# 通信硬件人笔面经互助 #
1014500次浏览 14707人参与
# 机械制造笔面经 #
1850891次浏览 28867人参与
# 非技术投递记录 #
424859次浏览 5494人参与
# 不考虑薪资和职业，你最想做什么工作呢？ #
20157次浏览 172人参与
# 央国企投递记录 #
37155次浏览 947人参与
# 我的实习日记 #
1277385次浏览 15885人参与
# 25届秋招总结 #
31900次浏览 447人参与
# 今年秋招哪家公司给的薪资最良心？ #
17935次浏览 170人参与
# 硬件应届生薪资是否普遍偏低？ #
41908次浏览 401人参与
# 如果公司降薪，你会跳槽吗？ #
18283次浏览 194人参与
# 想给25届机械人的秋招建议 #
15655次浏览 161人参与
# 简历被挂麻了，求建议 #
2356466次浏览 32265人参与
# 一觉醒来，秋招难度下降一万倍…… #
15090次浏览 171人参与
# 如何写一份好简历 #
580616次浏览 8270人参与
# 实习好累，可以辞职全力准备秋招吗 #
29931次浏览 505人参与
# 投递实习岗位前的准备 #
1136356次浏览 17778人参与
# 米哈游求职进展汇总 #
163265次浏览 1406人参与
# 你会选择考研还是直接就业 #
165530次浏览 1780人参与
# 实习中的菜狗时刻 #
266733次浏览 2671人参与