大模型面经 - 通义实验室

周四一面完之后，是不是要周一才有消息

第一道直接算全为2情况，再一个个把2替换成3第二道线性筛法，写一个小时漏情况了，果然还是得多复习第三道题目都没看总结：寄

团队好像主要做内容治理，vlm，llm都有主要在问项目了，code是个medium，持续记录！- 如果训练了多个评测类型的reward model，比如针对3H评测的3个模型，在RLHF阶段怎么用它们？是直接加权还是分阶段用？- （针对简历项目提问）你在项目里是怎么做RLHF的？用DPO或PPO时，有没有遇到过训练不收敛或者效果不好的情况？可能是什么原因？网上常见的解决办法有哪些？- 偏好数据是怎么构造的？比如用户点击数据或者人工标注的偏好对，你是怎么处理的？- 全参微调和LoRA各有什么缺点？在实际项目中，你是怎么决定用哪种方法的？- 位置编码在Transformer里很重要，能介绍一下常见的位置编码方法吗？比如绝对位置编码、相对位置编码这些，它们各自有什么特点？#牛客AI配图神器#

好了，下面说入职感受，先说食宿吧： 首先公司提供半年免费住宿，室友人很好，环境还可以，离公司很近，但公司不提供房补，后续租房也不提供。 其次公司食堂挺好吃的，但是对我而言分量有点少，所以每次都拿四五个菜，还有就是目前只有A2 A4两个食堂，中午食堂有点挤。 最重要的工作方面‼️（以时间为序，以下仅代表我的感受和观点，基于我的经历） 首先，与之前两家公司不同的是： 1.日常我工作汇报关系是：我→小组长→导师→直属leader。 之前一般都是直接向直属leader汇报（插一句，导师人很好，很幸运。） 2.工作内容：85%是非常基础的活，同时也是我在前两家公司基本不会涉及的，一般都是交由子公司或者专...