叠纸2023/04/01笔试

📍面试公司：vivo👜面试岗位：nlp算法实习📖面试问题：1、自我介绍2、为什么只实习3个月3、cot怎么做的4、rag怎么做的5、deepseek了解吗，moe和grpo讲一下(没看，不会)6、代码题：返回子矩阵累加和 要求时间复杂度o(1) 。写不出来，哥们只会for循环7、学校研究方向8、反问🙌面试体验：部门是的vivo互联网方向，我也不清楚vivo互联网方向干嘛的，他说是做推荐算法的。寄了，表现太差，感谢信了。 #软件开发笔面经#  #面经#  #算法工程师#  #大模型算法工程师#

终于收到水滴的面试了，面了一个多小时，能感受到面试官对技术的追求和激情，说实话还挺感染我的，但是他问的问题和时长让我汗流浃背啊，扣着各种细节去追问，记录了部分面试问题：1、自我介绍2、项目讲解3、指令集构建这一块有遇到什么难点吗？怎么解决的？4、用的什么微调，讲一下lora、p-tunning的原理5、大模型微调用到了什么框架6、 Lora的训练原理和使用是怎么样的？7、lora怎么做矩阵的初始化，为什么这样做8、有对比其他模型进行微调吗？微调后的效果怎么样？9、Lora的应用场景是什么？10、 llama的模型结构11、微调后的badcase怎么处理？12、怎么解决大模型的重复回答的问题？13、LLM推理都有哪些参数设置（top-k，top-p），一般怎么调整?14、Beam Search（束搜索）15、RAG16、RLHF、PPO、DPO算法17、VLLM的KV  Cache原理手撕：正则匹配，按照优先级规则将长文本划分句子最后反问环节问了业务方向和校招生培养，我也大概了解到了水滴对校招生的重视，不光有一年的721培养机制，而且对校招生有充分的放权和自由度，可以接触的业务还挺多的，甚至可能有CEO或者业务一号位直接来带，也分享了一个由CEO带出来的业务一号位的清华学长的故事，还很耐心的给我分享了他们的自研大模型，面试官特别健谈，也缓解了我的紧张情绪，总之好感度还是非常强的，希望能通过吧！#水滴春招##校招##面试经验#

自我介绍LoRA是怎么用的Llama3中的注意力机制是怎样的项目中的奖励模型是如何训练的奖励函数如何设计DeepSeek中的奖励模型是如何训练的什么时候开始接触大模型的深挖项目指出项目实验的一个点，测试两个模型胜率时应对每一个prompt进行多轮测试，GPT4有位置偏好介绍预训练的微调的区别预训练的基座大模型可以对话吗代码：岛屿数量（白板模式）反问：部门实习生干嘛，和正式员工差不多。研究方向：有道词典中英文互译，中小学生答题的大模型落地。薪资：不知道面试官人挺好，问题都是围绕项目来问的，就像同僚之间交流一样，他说他的观点，指出我项目的不足，我也说我最近看的论文，互相分享技术。3.11还没消息，估计挂了

📍面试公司：美团👜面试岗位：大模型应用算法工程师📖面试问题：一面和二面问的都不深，挺简单的，没啥一面：1. lora2. transformer3.算法题 给target和nums，判断target是否在nums里面，返回下标，没有的话返回0二面：技术细节和难点算法题是链表的反转🙌面试体验：问的不是特别难