投的京东算法工程，量化KV压缩算子并行训练围着问了一圈，聊了一个多小时面试完直接秒挂就是说不招人你们HR躺家里睡觉不好吗？

孩子简历官网躺了一个月，硬硬的，原来是似了😭😭😭求大模型推理加速/高性能计算相关的组捞一捞引流  #字节#  #腾讯#  #阿里#  #京东#

Kstar 大模型训练/推理岗  50分钟，面完直接躺地上睡觉zzz上来直接对着简历里的实习经历和项目问。1. 有哪些KV Cache Compression的形式？（这边我想先从自己的实习项目开始，再说别的，被对方直接打断“我没有问你的东西，我问有哪些方法”  态度感觉很不友好 ）  开始吟唱八股。2. MHA，MQA，GQA的概念，问怎样广播KV。之后问Multi-head Latent Attention与GQA的数据对应关系（给定hidden_status，Rope，MLA和GQA个数问MLA对应几个GQA），只知道MLA是低秩矩阵乘，但是具体怎么算没自己看过……没答上来。3. 问了20分钟项目里的KV Cache Sparse计算的细节和vLLM Triton的实现，自我感觉答得还可以。不过其中有一个，问我KV Cache Sparse计算为什么不用掩码，跟他说用掩码会导致不必要的GPU I/O和计算，不如直接传入稀疏矩阵，但对方一直觉得我说的有问题 = =||  4. DeepSpeed Zero123分别做了什么工作，吟唱完Zero1后被直接打断，让我算如果用Adam优化器，N个参数量的规模下Zero1如何给P个GPU分配数据。磕磕绊绊答出来，但是被说N个参数量还要考虑不同数据类型之间占用的内存不同FP32FP16balabala5. SmoothQuant原理，为什么要Smooth，参数如何设定（八股启动）  怎样判断一个模型是否适合SmoothQuant，如果用每层激活值分布判断，是看input channel还是output channel（答output，但是说完之后对方不置可否 = =||）6. AWQ和GPTQ原理，有何区别。7. 项目里为什么选用不同的量化方法，GPTQ和SmoothQuant对应什么场景。8. 蒸馏模型怎么做的，用了哪些技术（因为我用的模型是训练组给的蒸馏模型，只知道蒸馏的概念，细节不清楚）9. 分布式gpu通信原语  all together   all2all  （展开说了分别各自对应什么场景，结果被打断说“我只需要知道你告诉我这是通信原语就行”  觉得我说太多了…急着下班吗）反问环节有点幽默……我“请问您这边主要是做上游的微调或者modeling还是偏模型工程的推理加速？”  对方沉默一会儿回答“我们是算法”  把我尬住半天，，，面完1分钟看官网秒挂#秋招#

#大模型推理#  #大模型#  #面试#  #秋招# 求高手指点🙏🏻

RT  投算法每次能过简历但是一面试就说我bg偏工程…但是看开发岗也没有跟大模型推理沾边的  就很迷惑 #秋招#  #面试#  #算法#  #大模型#  #大模型推理#

组里新来的两个前端intern其中之一难道是lz

一个月之前CSIG三面挂  突然被捞…还是云部门但换了个组..提供AI云端服务相关的业务。05-22 一面两个小时 超级拷打……  直接问我项目  最后给了两道题一个medium 一个hard  磨了快半小时吧写出来了05-26 二面40分钟  项目➕八股  无算法 05-30  三面30分钟  还是项目  还是问我为什么本科硕士gap两年时间…06-01  HR面50分钟    面试官很年轻也很严肃  最后告诉我要跟其他候选人排序到现在官网还卡在HR面试会议链接的页面……不知道是不是周末不会更新还想问一下uu们  腾讯的实习会不会因为到岗时间偏晚而在综合排序的时候被比下去啊😭😭  感觉好慌-----------------------------------------------------------update 06-05  发邮件推进度后  第二天（06-06）发了云证邮件  但是招聘网站上仍然卡在HR面试会议链接界面… HR动一下啊.jpg-----------------------------------------------------------update 06-07  晚上九点接到HR oc     同时官网更新 直接快进到录用评估id10-----------------------------------------------------------update 06-08  10点收到offer邮件  已接不同事业群进度真是天差地别…  只能说面试藤子需要有耐心 #腾讯云面试#

三月底投的TEG，17号晚上被CSIG HR捞了起来，准备参加远程面试。 用的腾讯会议，算法题用的内置IDE（面呗） 凭借回忆整理了一下面试中的问题……不保证完整性。 04/19 - 一面 - 50mins 自我介绍 算法题：数组中出现两次的元素。 给一个长度为n的数组，数组元素大小 1 <= ai <= n，其中有些元素出现两次有些出现一次，问如何能经过 一次遍历 后 原地 找到出现两次的数据。 一开始只能想到Hash，没有看到数组元素大小的限制条件，卡了很久…反应过来之后想着可以把数组下标看成一个现成的HashTable，然后用正负号来判断出现...