鹅厂 (似乎是青云计划的)WXG 大模型推理工程师一面凉经

开始各个厂的人才计划和提前批了,面一次总结一下。希望秋招有个好结果。这段时间跑去字节做训练了,推理相关的忘了好多。。。

八股+项目

  1. 自我介绍:学校,实习,开源
  2. 开始聊天:问我以后想做训练还是推理,然后给部门介绍了一个遍。
  3. 问在商汤工作写的算子:RMSNorm,如何做的算子融合。
  4. 八股开始,问NV显卡的内存模型 和计算模型。
  5. c++11 问share mem,share mem是不是进程安全的。如何保证share mem的进程安全性
  6. 问serving相关的知道哪些技术:orca,投机解码。
  7. Llama3 和 Llama2的区别,新用了哪些层:全局GQA
  8. 模型层的优化手段:MLA
  9. 接着MLA问新kv cache压缩手段:YOCO,Infini attention

写题

  1. c++矩阵乘法

------------------------------------------

秒挂,(bar还是够不上人才计划吧

全部评论
楼主是博士吗
点赞 回复 分享
发布于 07-17 23:14 美国
你是做gpu层面的吧,我咋都没看过
点赞 回复 分享
发布于 07-20 16:48 北京
都答出来了也挂了?
点赞 回复 分享
发布于 07-26 00:43 广东
请问楼主青云计划就是提前批吗
点赞 回复 分享
发布于 08-07 19:35 北京
请问一下楼主硕士期间的研究方向是什么呀
点赞 回复 分享
发布于 08-11 12:08 广东
“c++11 问share mem”这个应该是shared pointer吧
点赞 回复 分享
发布于 08-27 05:13 美国

相关推荐

投实习的时候很多同学经常会有疑问,这个岗位是否有含金量?本人用丰富的找实习经验帮你总结了以下几个方面😎🥸首先定义:什么是含金量?在我这里,含金量就是你能从这段实习中学到多少东西。有的实习,做完后会对公司架构,行业动态,所在岗位的职责等等有清晰的认知,这就是高含金量的实习。而有的实习结束后,只是对公司打印机使用,发票报销流程,会议室预定了解得明明白白的,这种无疑是低含金量实习。 1⃣公司角度:一般来说公司实习生比例越大,越可能在实习中学不到东西。实习生占比大,要么这个公司业务发展不好,喜欢请廉价劳动力做事,这种情况倒还好点;要么是杂活太多。而不管是哪种情况,都会由于实习生多/上级太忙,无法与上级有太多交流,甚至会出现实习生带实习生的情况。 2⃣JD角度:观察jd上涉及行政工作/dirty work的部分占比。如果jd上的打杂占比50%,那你可以认为这份实习的实际打杂部分是70-80%。有些公司也会挂羊头卖狗肉,所以如果进入到面试环节,也可以直接问面试官这份实习的主要工作内容,拿到offer后再次委婉询问dirty work占比,这样自己会有更好的判断。  当然,知道自己的位置也是很重要的,思考“我能干什么”,再投递合适的岗位,会比盲目投递“最好的”实习更有效率(因为我自己也吃过盲目投递的亏)。对于没有实习经历,对自己能力也不太自信的同学来说,当务之急并不是找到高含金量实习,而是先找到一份“看起来还不错”,并且可能比较符合你未来职业规划的实习,为之后再找能学到更多东西的实习铺路。 #你觉得实习只能是打杂吗?#  #我想象的实习vs现实的实习#
点赞 评论 收藏
分享
5 46 评论
分享
牛客网
牛客企业服务