大模型基础架构岗面经（二）

  1. 是否了解萃取技术，偏特化全特化（为什么乱入了模版编程）
  2. 模型的并行策略有什么，策略的选择是如何确定的，如何排序并行策略组
  • 你对于流水线并行的理解是什么
  • 对于数据并行的理解
  1. 解决显存不够的方法有哪些，对显存优化的选择有什么看法
  2. 什么是 scale law
  3. deepspeed的特点是什么？各个zero stage都有什么用？
  4. 对于长文本的训练，有什么解决优化方案
  5. 请介绍一下 transformer 的结构
  6. 没有手撕，美滋滋
全部评论
m
1 回复 分享
发布于 08-23 23:57 黑龙江
哪家公司呀
点赞 回复 分享
发布于 08-29 15:58 北京

相关推荐

10-20 16:39
已编辑
中山大学 算法工程师
点赞 评论 收藏
分享
10-25 20:47
南开大学 算法工程师
点赞 评论 收藏
分享
10-31 10:27
已编辑
北京师范大学 数据挖掘
天文研三极限转行，请大家帮看简历和岗位
#广发卡校招来了#  #建信金科校招# 9月份才正式准备转行。之前一直坚持搞天文学，实在搞不下去了，然后了解了机器学习，发现对这些内容很感兴趣。就花一个月学了学，极限做了个老项目，就去投简历了。十月中旬才开始投的，还没有投很多。想投一些数据挖掘岗位。想问问大家我这个背景(技术菜，只有学历能看)是不是投国企之类的更合适啊？互联网公司好像很难进，而且秋招截止得很早，错过了很多机会。还想去找个寒假实习，秋招和找实习同时推进可行吗?现在还在一边做一些更进一步的项目。但是找工作和提升技能之间好难平衡。目前就投了建信金科，广发银行信用卡中心，光大银行，嘉银金科，还有一些******上的公司但没有什么回复。 #无实习如何秋招上岸# #想实习转正，又想准备秋招，我该怎么办#
点赞 评论 收藏
分享
11-01 15:35
中国科学技术大学 Java
点赞 评论 收藏
分享
10-13 12:35
清华大学 算法工程师
点赞 评论 收藏
分享
点赞 12 评论
分享

全站热榜

正在热议
# 25届秋招公司红黑榜 #
108673次浏览 579人参与
# 机械制造笔面经 #
1848696次浏览 28851人参与
# 通信硬件人笔面经互助 #
1012647次浏览 14676人参与
# 非技术投递记录 #
423831次浏览 5487人参与
# 不考虑薪资和职业，你最想做什么工作呢？ #
19618次浏览 171人参与
# 央国企投递记录 #
36805次浏览 942人参与
# 25届秋招总结 #
28937次浏览 403人参与
# 我的实习日记 #
1276422次浏览 15870人参与
# 今年秋招哪家公司给的薪资最良心？ #
15599次浏览 163人参与
# 简历被挂麻了，求建议 #
2354584次浏览 32250人参与
# 硬件应届生薪资是否普遍偏低？ #
41296次浏览 400人参与
# 想给25届机械人的秋招建议 #
15599次浏览 161人参与
# 一觉醒来，秋招难度下降一万倍…… #
14441次浏览 163人参与
# 实习好累，可以辞职全力准备秋招吗 #
29853次浏览 505人参与
# 投递实习岗位前的准备 #
1135818次浏览 17775人参与
# 你会选择考研还是直接就业 #
165200次浏览 1780人参与
# 实习中的菜狗时刻 #
266549次浏览 2670人参与
# 米哈游求职进展汇总 #
162993次浏览 1406人参与
# 我的实习求职记录 #
5835653次浏览 81940人参与
# 非技术er求职现状 #
18148次浏览 178人参与
牛客网
牛客企业服务