算法面经6

部门与岗位：TEG - 混元大模型团队 - 大模型对齐一面自我介绍，过实习，讲论文，论文过的比较细，有说的笼统的地方面试官会实时进行询问交流了解哪些大模型，简要挑一两个介绍一下，当时说了 Qwen 和 DeepSeek，然后面试官又问了这两个有什么区别接着上一问，为什么大家都开始探索 MoE 架构，MoE 相比 Dense 有什么好处在之前实习的时候用 LoRA 微调过 Qwen，于是问了有没有全量微调过，有没有对比过两者的性能表现讲一下大模型训练和推理的流程，SFT 和 RLHF 的作用分别是什么在 RLHF 中，目前主流的强化学习算法有哪几个，写一下损失函数的表达式代码：22. 括号生成代码：多头自注意力一面问的八股还是比较多的，问的也比较细，而且还写了两道代码题，整个面试花的时间也比较多，大概一个半小时左右二面自我介绍，过实习和论文，面试官会一起进行探讨，包括工作的动机、贡献和结果，也会提一些问题和建议之前实习用 DeepSpeed 微调过 Qwen2-72B，于是面试官问了 ZeRO-1，ZeRO-2，ZeRO-3 三个模式的区别当时你用 DeepSpeed ZeRO-3 来微调 Qwen2-72B，每一张卡占用的显存大概是多少，估算一下为什么是占这么多的显存除了 DeepSpeed，还用过其他的什么优化方法吗我看你也用到了 LoRA，知道 LoRA 的原理吗，A 和 B 两个矩阵怎么初始化，有了解过其他的初始化方法吗对 RLHF 了解的多吗代码：3. 无重复字符的最长子串二面更多的是结合具体的工作来问的，从用到的东西来引出问题，问的也比较灵活。当然因为部门主要是做对齐的，所以也大概聊了聊 RLHF三面自我介绍，挑一个觉得做的比较好的论文和实习讲一下，面试官问的比较详细，为什么选现在这种方案，为什么 work，其他方案有考虑吗在微调 Qwen 的时候，数据是怎么构造的，有用到什么数据清洗方法吗，数据配比是怎么做的讲一下 RLHF 的流程，之前有用 RLHF 做过模型对齐吗在做对齐的时候，为什么 SFT 之后还要做 RLHF，只用 SFT 可以吗知道哪些强化学习算法，除了 PPO 和 DPO 这些呢，DeepSeek 用的 GRPO 相比于 GPT 的 PPO 做了哪些改进开放题：对目前大模型的发展有什么看法代码：零钱的两个题 322. 零钱兑换518. 零钱兑换 II三面面试官更聚焦于对齐这一块的内容，考的比较深。由于之前没有接触过强化学习，答得还是比较吃力的，不过面试官还挺好的，会一起讨论来做引导四面自我介绍，过论文和实习，问的也比较细，这里能明显的感受出来面试官的视角更系统，会把这些工作串起来问我看你简历上没写 RLHF，平常有用过 RLHF 吗推导一下神经网络反向传播的过程一道排列组合的概率题开放题：你觉得大模型目前还有哪些可以改进的点四面整体更看重思维和基础，没有考察什么八股总结一共四轮技术面，整体来说强度比较大，对于大模型八股的考察比较细，对大模型的理解问的也比较深刻，包括一些数理逻辑基础，考察的比较全面需要内推码的可以用下面这个链接：内推链接：https://join.qq.com/resume.html?k=ANQI6RfQ3rhPS2dpyIkeSw#26届实习##大模型##八股##面经##腾讯##内推#

本人华五本硕电子信息专业，计算机视觉方向。本科阶段行情好一心想去互联网，想着水个研究生再去挣钱。本科毕业观察到互联网下坡路，转头准备选调，参与实习后也不太喜欢，最后转向央国企求职/读博。研二下找实习阶段随大流跟着同门一起投互联网，由于之前准备读博，有几篇论文在投，就把之前做的工作整合了一下，做了简历海投，历经几个大厂的多轮面试，最后也比较幸运的拿到了基本所有的大厂算法岗，有的是AIGC 有的是视觉。最后去了阿里实习拿了转正。秋招三手抓选手，凭着实习和论文集邮了算法多个ssp（虽然最后都没去），也考了选调（央选、江苏名优），面了一堆央国企（电网、银行、运营商），目标都是江浙沪base, 所以都基...

自我介绍LoRA是怎么用的Llama3中的注意力机制是怎样的项目中的奖励模型是如何训练的奖励函数如何设计DeepSeek中的奖励模型是如何训练的什么时候开始接触大模型的深挖项目指出项目实验的一个点，测试两个模型胜率时应对每一个prompt进行多轮测试，GPT4有位置偏好介绍预训练的微调的区别预训练的基座大模型可以对话吗代码：岛屿数量（白板模式）反问：部门实习生干嘛，和正式员工差不多。研究方向：有道词典中英文互译，中小学生答题的大模型落地。薪资：不知道面试官人挺好，问题都是围绕项目来问的，就像同僚之间交流一样，他说他的观点，指出我项目的不足，我也说我最近看的论文，互相分享技术。3.11还没消息，估计挂了

注：本篇文章于2024年3月17日，首次发布于CSDN： CSDN原博客 后又在牛客开通个人博客，遂将此篇题解移植到牛客讨论区。 @TOC 前言 —— 瞎扯淡 背景一 目前，我所搜索到的全网博文关于 小美的朋友关系 都没有通过的代码。思路是正确的，但是代码都是超时或答案错误。鉴于目前官方也没有发布题解，遂写此篇博客供大家交流学习 背景二 中午午休的时候，科科公主给我甩来一个链接，让我陪她一起做题。做了 分钟左右，把除了 小美朋友关系 其他题目写完，就去上课了。后面吃完晚饭，又补了 小美朋友关系 这道题。 整体评价 美团的算法笔试，没有我想象的那么难。 我之前看大厂招算法岗，都需要研...