面试时间8月30日1. 自我介绍2. 直接做两道题，LC17、LC2093. 开始问实习，主要在继续预训练的数据、训练参数等上详细问了（一直问我两阶段学习率都是怎么设置的）问实习的过程中穿插了一些LLM八股4. 预训练的loss5. 退火过程的理解6. LLM的几种架构7. Llama跟BERT的各种对比8. Llama结构的演化改进9. ROPE的原理10. BN、LN、RMSnorm反问，主要做视频相关的推荐，多模态之类的，感觉是没有多模态经历要寄了虽然但是，感觉面试官不是很懂LLM，我说了个RLHF他反应了半天，还让我解释不过没事，挂了继续投，下一个准备投广告😁 #快手# #牛客创作赏金赛# #快手求职进展汇总# --------------------更新，已经约二面了，这次居然秒过

昨天导师(好人)想让我去另一个老师自己开的公司实习(我不太懂，真实习/真苦力五五开吧)，但是是深度学习相关的(pdf解析)，我想了一把又婉拒了。然后又聊了两句，牵扯出来了写完小论文去实习的事情，导师提了一嘴研二不放人。然后上学期挂了一门选修，问了学工可以选别的选修替代，不过就这一门可以选(难绷)。对那个老师印象很不好，太正式了，要花大把时间背他课上的ppt，也不圈重点。还是面对吧，不过如果选了课要上到17周(12月底)，估计找寒假实习啥的又该逃这个课了，最后回来期末考试吧。深度学习真的是一点不懂啊，就有个吴恩达老师深度学习的基础，想着能应付个小论文，应付个组会就行了，完全没想着往这方面找工作(...

攒人品~大模型岗位深挖论文项目，如何构建的数据集，评价指标，置信度的考虑，rag怎么做的，prompt怎么写的。bert的input词向量和其他大模型的区别，transformer的MHA之后的FFN是如何训练的。手撕最长无重复子串。反问业务。希望别挂

moe和dense模型的区别，各自的优缺点 a. 参数量，计算量，训练效果，如何选择deepspeed原理，你是否可以从理论上对 ds 的 stage3 阶段的性能进行分析混合并行策略是否了解，介绍一下 TP，PP，DP 的使用场景介绍一下混合精度训练的原理和优势 ● 追问量化技术是否了解是否了解 Hopper 架构的新特性，对 flash-attention3 是否了解，两者的结合如何介绍一下 SM，SP，warp 相关概念和关系（感觉想问 warp-group...力扣手撕：岛屿数量未来发展方向，对 LLM 行业的态度及意向