快手推荐大模型一面

一切都从昨天下午原以为是KPI的一面开始，没想到直接开出意外惊喜一面：自我介绍，然后讲了刚投的一篇1区论文的工作，分析整体的框架、具体的技术细节，常见的反问点（为什么这么设计、为什么有效，相比于之前的工作，主要好在哪里、最核心的贡献是什么）面试官自称是NLP背景的，然后问了一些常见的视觉和多模态大模型的模型结构、损失函数设计、训练及推理过程等（面试官有可能是故意扮猪吃老虎哈哈）Coding：最接近的三数之和；共享屏幕本地IDE，秒了一个n^2logn的做法，让进一步优化，最优解是双指针；不过面试官觉得编码能力应该可以，实现很快，提示完直接让过了原本以为月底发一面是KPI，结果面试官问我后面还有没有时间，现场约二面，等面试官进会议二面：自我介绍，二面面试官非常重量级（进会议的title和面试的深度广度全都拉满了）首先很深入了聊了相当多关于MLLM的内容：介绍一些MLLM的现状，再选一个近期的多模态大模型，介绍相较于CLIP、LlaVA早期版本进行了哪些改进: Qwen技术点比较多，之前没系统整理过，说了自己还有点印象的Intern-VL2，不过上次看Intern-VL2的论文已经是三个月前了，大概只答上两点比较核心的。然后继续深挖目前多模态大模型在数据层面相较于之前的改进，这个没答上来之后被面试官深挖了LoRA，可以说LoRA的每一个细节的角落全都被挖的干干净净，还有不少开放性思考题，甚至比上次小鹏CV大模型一面面试官挖的还狠得多。不过上次被拷打之后就很系统地整理了LoRA的相关内容，勉强答得还行吧以后再不能当git clone侠了。然后面试官针对我的专业背景（统计），深挖了几个ML、DL相关的数学层面的问题，有让共享屏幕开白板写过程和推导（不是特别难，不过挺新颖的，秋招还是第一次面试被问到这种类型的问题）；紧接着针对我的Nature子刊工作中用到的Gaussian Graphical Model，讲了其与传统ML模型、神经网络和大模型的差异、区别和各自的优劣势。最后是一些相对开放性的问题：你是如何使用现代的LLM产品提高工作、学习和编码效率的？为什么这种方式有效果？LLM、LVM、MLLM未来发展的方向和前景大概是怎样的？整个二面的问题不止这些，太多了，又深又广，很多具体已经记不太清了，而且回答的过程中几乎都有进一步反问，深挖了很多东西二面面完，面试官也是直接当场联系三面面试官三面：自我介绍，三面面试官更是整个集团的技术大佬，NLP相关经验非常丰富，整场面试问的内容也偏NLP相关，我之前几乎0 NLP相关经验，汗流浃背了可以说，不过好在基础还行，凭自己的做CV和MLLM的积累，基本都答上了首先介绍了之前lab实习中做的LLM剪枝优化迁移的工作，然后深挖了相关的技术细节，不过刚聊完电脑音频直接罢工了，重新约到11.1下午11.1下午完整描述CLIP的原理、架构、工作过程、怎么对齐、怎么做image caption完整描述transformer输入一个文本序列如何做下一句预测的全过程，深挖了tokenize、位置编码、MHA、FFN、损失函数、输出转换各个部分接着从我项目经历中有关传统ML的经验出发，问了一些ML相关的八股，难度不大然后是偏主管面的一些内容：对工作环境的期望、自身性格优缺点等反问环节逮住大佬问了目前MLLM的相关业务和技术现状；最后是关于面试流程上的一些问题总体体验非常棒的三轮面试拷打深度广度强度高，但是也学到了非常多的东西，这也算是对自己能力的一种认可吧现在想想当初9月份面试难度远不及现在的团子、阿里、得物、理想，却被面挂了，可能还是简历不如现在优化的好，没能突出自己的优势，也没有勇气直接投更匹配自己的岗位吧（当初为了求保底，基本都投的机器学习、数据挖掘这种最“泛”的算法岗，或许应该早点鼓起勇气直接投自驾、MLLM和CV的）。今天看到牛u们团子开奖，各种sp、ssp，确实感觉羡慕+遗憾。最后许愿一个HR面吧 #秋招#  #算法工程师#  #牛客创作赏金赛#  #新浪#

岗位是做首页笔记推荐相关的东西，感觉算是比较核心10.21一面：自我介绍研究经历询问，研究主线是什么你的这些论文主要解决了什么问题收益体现在哪里，baseline包括哪些讲一下大模型实习，我以为会问推荐实习的BERT和GPT的区别，都是怎么训练的二者的finetune一般怎么做SFT和RLHF一般各自用在什么场景，各有什么优缺点目前long-context中主流的方法有哪些transformer和lstm+attention相比，主要的改进点是什么对整个推荐系统链路有哪些了解打分样本空间分布与精排不一致（精排对粗排返回的样本做排序，粗排则要对召回的样本打分），相关的解决方案了解吗介绍下推荐实习...

#非技术面试记录# 1.做过的最有成就感的事情，遇到的困难和挑战以及怎么解决的（常见的面试考察问题）2.压力大的时候怎么解决的（这个可以分点从不同方面答，建议体现你的主观能动性和复盘能力）3.举例子说明你的沟通能力强3.未来的职业规划4.通勤，介绍薪资待遇！后续的专业面试是直属leader面试，会深挖简历，and一些岗位有笔试（30min）考专业知识以及机试（就是看你excel的运用啦）这算我遇到过流程最多的实习啦

background纯后端厌倦了，一句话形容，又事多又无聊又着迷LLM，想转main-content主旨就是狠狠拷打，有点压力的意思先是对项目的真实性表示质疑，我这边给了一些具体的信息又怀疑项目达到的性能，三方面进行拷打：PE，LoRA，RAGLoRA主要说了概念，具体怎么用，用在哪些层，为什么有效，成本控制RAG主要说了知识库建立，也是老生常谈的语义分割和上下文长记忆问题PE就是列举了几个case，就是CoT，角色扮演，多次迭代最后做了一道算法 dfs秒了summary一定要对基础知识掌握扎实，活学活用，比如问LoRA和Adapter，Knowledge distillation的异同RAG...