NLP算法面经11

1. （项目的点衍生出来的）RoPE 原理，手撕2. Transformer MHA 手撕3. vLLM为什么能加速？PagedAttention4. CPU/ GPU 架构，为什么设计 GPU5. GPU 硬件架构具体介绍一下6. 发散的问题：怎么看待AGI，怎么看待大模型的“智能”，平时用什么大模型？（回答豆包，感觉应用做的比较好）感觉整体问的还是比较深入的，一个问题可以拓展出很多细节。问题比上午的电信更理论一些，电信更落地更贴近业务（？可能是面试官的仁慈）偏八股吧，美团全是项目…可能是暑期实习和日常实习的差别？

BP16 和 FP16 在存储结构、精度表现、数值范围以及适用场景方面有什么不同？训练时使用bf16更稳定，表示范围大，并且自带隐式正则化buffer；推理时使用fp16比bf16更好，因为fp16表示精度高。 https://www.zhihu.com/question/616600181/answer/3194881239怎么解决训练使用float16导致溢出的问题？使用 缩放因子 trick混合精度训练kv-cache的作用一种缓存技术，通过存储键值对的形式来复用计算结果，以达到提高性能和降低内存消耗量化方法的分类按量化对象分：KV Cache量化、模型权重量化、激活值量化-按量化阶段分...

一面3.24自我介绍，项目拷打，问相关八股SFT之后性能下降可能是什么原因，答预训练出现灾难性遗忘，SFT数据处理得不好；问优化策略，答冻结预训练阶段部分参数，指令数据格式要统一，加RLHF，拒绝采样扩充负样本介绍MOE架构，答门控机制调用不同专家，降低显存（这里说错了，相比同等规模的稠密网络，计算代价减小，显存占用不变），对于响应多的专家后续不让参与训练。问此外还有什么负载均衡的方法，答还有成组注意力（不过这个效果不太好），别的不清楚了问长文本较好的方案，答旋转位置编码，KVcache，滑动窗口。问除了这些提高效率的方法，对于输入文本超过接受长度的情况怎么处理，答提取关键词，对历史记录和prompt总结summary问CPT、SFT区别，答CPT数据更全面，SFT侧重指令数据手撕两两交换链表节点，写成改节点数值了。二分查找返回第一个出现的位置面试官人很好，没听明白的问题会进一步说明，后面代码卡住还给我提示二面3.28项目拷打，问的更深更偏实践问项目里RAG的操作流程，数据提取细节讲DPO，答的时候提到了几个名词，但是没说清楚整个过程。反思是受到前面回答得不好影响，就根据记得的大概说了下，有些内容忘了怕说多了露馅。补充了GRPO的原理问还有什么要介绍的工作。反思这里应该是觉得我前面项目做得不深入，想了解下有没有好点的，可惜我没了介绍LoRA微调原理手撕最长公共子序列并返回序列，没做出来，只会返回序列长度。面试官讲解了正确写法反问业务面试官人也很好，对我面试表现建议要加强语言表达

刚刚过了一面