一面介绍你最熟悉的项目数据质量、来源训练细节、模型评估BPE拷打论文、问其他工作的区别手撕：链表easy题手撕MHA二面拷打项目数据清洗、分词、配比数据来源、代码比例并行策略loss抖动对齐拷打论文八股：生成式和判别式、KL散度三面hr职业规划选择offer看什么base、薪资期望老家哪的有无其他offer具体问题可以私聊我虽然是提前批，但是流程不算快，隔几天出结果

据说是965的神仙公司，面试官有帅哥、有既好看声音又好听的小姐姐，都保养的很好，基本上都没有大厂的岁月感，慕了慕了一面拷打论文、项目问输入输出、评价指标、改进和不足把你的研究经历串起来问模型训练、RAG、embedding、transformer等基础八股二面拷打项目、论文数据质量评估数据多样性、去重、配比的衡量智能体attention、kv cache等八股手撕softmax等几个机器学习常识题三面拷打论文、问和其他工作的区别大模型边界智能体合作问工作倾向

“说一说当下大模型的主要特点？”“大”“那大模型大在哪里呢”“大在模型”“…”

一面拷打论文、项目拷打预训练、SFT基础gpt类型的八股llama更新迭代、MoE手撕最长无重复子串鉴于某小地瓜平台喜欢copy我的面经，我就不具体列出问题了，有需要具体细节的可以私聊我二面拷打论文decoding对齐算法配比、数据质量场景题手撕“leetcode刷的多吗”“不多”“那写个快排吧”三面拷打项目预训练流程RL知识数据质量保证拷打论文问业务倾向流程不算快，隔几天面一次更新，已意向

手撕环节面试官：那咱们做道算法题吧我：好的面试官：你看这道题可以吗我：（不可以难道要给我换一道吗？？？）反问环节我：那您觉得您这边的业务有哪些难点呢面试官：你这是在面我吗？我：……面试结束时面试官：谢谢你的宝贵时间我：（不是哥们，你怎么还抢我的词啊…）hr面面试官：你能接受长期加班吗？我：不能面试官：行，那我大概了解了，那咱们今天就先这样？回去等通知吧给我整不会了

不得不说字节效率真高一面拷打论文transformer和llama的LN有什么区别，手写RMSNormFFN有什么不同，写Relu和SwiGLU数据清洗流程质量过滤用什么模型PPL公式是什么BERT的预训练任务、embedding讲讲位置编码你认为好的prompt的范式是什么开放性问题：端到端的大模型和多个小模型，各自的优缺点是什么手撕：两道easy当天约面二面拷打论文介绍模型数据清洗流程采用什么样的策略、什么样的数据才会便于模型学习数据配比能说下思路吗主流LLM模型结构设计有什么特点如何评估LLM训LLM最大的困难是什么前沿LLM有了解哪些工具调用怎么实现国内LLM有了解哪些LLM推理能力的天花板现在是什么程度无手撕面我1h，口干舌燥当天约面三面问硬件、硬件利用率讲讲deepspeed几个阶段，分别分片什么、代价是什么模型训练时间如何估计DP和DDP的区别最多用过多少张卡训练过程如何做模型监控数据配比怎么量化才是一个好的方案讲一下预训练数据处理预训练和SFT如何评估encoder-decoder、encoder、decoder区别讲一下文本输入大模型到输出的过程decoding策略大模型结构有哪些变化拷打论文手撕：cross-attention部门就不开盒了，仅供参考另外，秋招真是太耽误打游戏了不说了，猿神，启动！

这要求属实有点高了…

面试官：“你平时算法题刷的多吗？”我：“不多，刚开始刷”面试官：“那做一道合并两个有序数组吧”他真的，我哭死爱了爱了

7月底投递、测评8月初开始约面一面介绍一下预训练数据处理数据配比有什么经验介绍一作的文章你们有用大模型做数学推理吗？主要用什么方法手撕：链表重排第二天约面二面讲一下论文，拷打细节，你觉得还需要在哪些方面提升拷打项目，讲一下数据清洗模型训练发生的一些异常如何处理？如loss突然上升训练数据有问题如何检查出来用过哪些bert类型的小模型，他们用什么预训练任务讲一下位置编码长文本问题怎么处理的手撕：最长无重复子串当天约面三面 hr问过往经历问实验室情况几月份毕业学生到职场的转换有什么挑战其他公司进度考虑offer优先考虑什么三个词形容自己，并找一个例子体现一下能来提前实习吗几天后oc，oc也会问一些类似hr面的问题 #秋招记录# #NLP算法工程师# #大模型#