美团llm算法实习面经(已oc)

首先自我介绍(一段llm独角兽实习+几个校内💦项目)
然后面试官让我详细介绍一下项目,围绕项目提了些问题
1️⃣是否了解主流的mllm?
我说了qwen-vl、llava、blip
2️⃣了解它们所用的技术吗?
我说只大概了解一些,因为我们的任务主要是针对细致感知,这方面的工作比较少
3️⃣介绍一下主流的llm架构?
我说了以Bert为代表的encoder-only、以GPT、llama为代表的decoder-only和以GLM为代表的encoder+decoder
4️⃣llm的训练方法?
举了GLM的例子
5️⃣问我项目用的什么微调方法?
我说一个是全量微调,一个是lora
6️⃣lora的实现细节?秩如何选择?
开始吟唱低秩矩阵balabala,秩的选择要看任务的需求,一般选4/8/16?
7️⃣问了项目中的一个术语,是别人的方法,还是自己的创新?
不太了解,就是公司内部的叫法
8️⃣介绍一下最近看的一篇论文?
说了个thu的工作,后面才知道面试官也是thu毕业的。。。
9️⃣本科时候就进组了?
我说是的,但做的不是AI方向
1️⃣0️⃣为什么保研的时候选择了xx学校?
考虑到地域+导师
接着就做了道leetcode,反转链表中的一段~
最后是反问,我问了实习生具体的工作内容,主要是自研基座的研究分析,会涉及到SFT/DPO

总结:面试体验很好~面试官很nice,而且整体面的不难,更多是广度上的问题,没有怎么拷打
p.s. 美团offer下得非常快~好评一个,我爱团子!
全部评论
这是一面二面和一起了吗😳
点赞 回复 分享
发布于 2024-07-28 18:35 北京
秋招吗
点赞 回复 分享
发布于 2024-07-29 01:02 浙江

相关推荐

02-26 18:25
已编辑
南京大学 算法工程师
点赞 评论 收藏
分享
终于收到水滴的面试了,面了一个多小时,能感受到面试官对技术的追求和激情,说实话还挺感染我的,但是他问的问题和时长让我汗流浃背啊,扣着各种细节去追问,记录了部分面试问题:1、自我介绍2、项目讲解3、指令集构建这一块有遇到什么难点吗?怎么解决的?4、用的什么微调,讲一下lora、p-tunning的原理5、大模型微调用到了什么框架6、 Lora的训练原理和使用是怎么样的?7、lora怎么做矩阵的初始化,为什么这样做8、有对比其他模型进行微调吗?微调后的效果怎么样?9、Lora的应用场景是什么?10、 llama的模型结构11、微调后的badcase怎么处理?12、怎么解决大模型的重复回答的问题?13、LLM推理都有哪些参数设置(top-k,top-p),一般怎么调整?14、Beam Search(束搜索)15、RAG16、RLHF、PPO、DPO算法17、VLLM的KV  Cache原理手撕:正则匹配,按照优先级规则将长文本划分句子最后反问环节问了业务方向和校招生培养,我也大概了解到了水滴对校招生的重视,不光有一年的721培养机制,而且对校招生有充分的放权和自由度,可以接触的业务还挺多的,甚至可能有CEO或者业务一号位直接来带,也分享了一个由CEO带出来的业务一号位的清华学长的故事,还很耐心的给我分享了他们的自研大模型,面试官特别健谈,也缓解了我的紧张情绪,总之好感度还是非常强的,希望能通过吧!#水滴春招##校招##面试经验#
查看17道真题和解析
点赞 评论 收藏
分享
评论
6
43
分享

创作者周榜

更多
牛客网
牛客企业服务