百度(应该是paddle)异构计算工程师提前批 1面凉经
背景:
给paddle写过代码,参与多次paddle开源。贡献过API,编译器(PIR),CUDA Kernel等代码。
面的很快,就40分钟。有的时候想多说两句面试官说:快点说,不重点的跳过就行。遂很多都说了一两句就跳过了
项目&八股相关:
- 惯例介绍一下自己:讲了实习+项目+paddle的开源。
- 开始又惯例问了问我想做什么方向,训练偶or推理。
- 问我对哪段实习经历印象最深(因为是面推理的岗,我就讲了商汤。
- 那你根据你这段经历讲讲你在公司是怎么学习的过程(讲了kernel相关的经验,讲了讲算子融合。
- 你们为什么要写算子,算子难道比cublas的快吗?(给她讲了讲为啥量化做了算子融合,举了FuseRMSNorm的例子。还提了一嘴给paddle写的int4量化kernel
- 那这些kernel的baseline指标是什么(是的,东扯西扯了两句
- 那你们就完全不关注算子的性能呗(原话,和她讲了mfu tflops 带宽等关心的指标
- 开始八股:讲讲RoofLine模型
- 讲讲CUDA内存结构(HBM, L2, L1,share mem,reg
- 寄存器是每个线程独享的吗
- 如果你现在在一个CPU环境下,如何做上面说的加速呢(SIMD,AVX取址,循环展开。。。
做题:
- 一道dp
最后:
- 等到最后了她问:你以后打算做什么方向的工作是GPU相关吗。(我说是的,还参加过百度的开源比赛。
- 问了问开源比赛相关的。
---------------------
秒挂了,还是太菜了。配不太上百度
#我的失利项目复盘##提前批过来人的忠告#