oppo多模态大模型暑期实习 二面 速通

#牛客在线求职答疑中心#百川多模态大模型算法工程师 ，周五面试，求～～

一面/技术面 2024/7/25 晚上18:00-19:00自我介绍为什么不做推荐转行做NLP介绍实习，从背景、动机、数据处理、实验方案到成果，到后续安排，问了个遍数据如何处理详细介绍了LongLoRA，包括各种实验细节Sparse Attention了解哪些Transformer中有哪些加速收敛，防止过拟合的操作介绍各种norm，batchnorm训练测试差异位置编码方案有哪些？优缺点长文本技术了解哪些，详细说一说长文本和Sparse Attention的结合有哪些，详细说说介绍NIPS论文，问了一些问题代码：二叉树右视图，比较基础反问二面/技术面 2024/8/14 晚上20:00-21:...

不得不说快手的面试体验是真好，不会让我很压力。大模型一面挂了，没想到被这个捞了。面试官不会问我没接触的，还是很好的。1. 自我介绍 2.实习简单介绍了一下他们是做安全的，就先问了很多安全的知识3.实习中，安全对齐现在是怎么做的4. 安全数据你们是怎么构造的5. 开放场景题（现在快手有一些视频图片文本等帖子，底下评论很多可能设计 sq zz 等安全问题， 如果是你，你会怎么去设计来解决这个安全问题？）（我： 情感分析  实体信息抽取  主题分类  模型微调 xxxx 随便大杂烩）6. 讲到了一下 DPO，就问 PPO 和 DPO 有什么区别？（奖励模型优化了）7. 你觉得 DPO 训练，可能会出现什么问题？问了问我做没做过 CV，没有。 后面问集中在transformer，估计是他 CV 做的多。8. transformer 的结构整体介绍一下7. 位置编码介绍一下？为什么 ROPE 等相对位置编码会有比较好的外推性？（瞎讲）8. 讲一下 BatchNorm 和 LayerNorm。为什么 transformer 是 LayerNorm？9. 是 Post 还是 PreNorm？ 这两个有什么优缺点？（我说反了。。。Pre 更训练稳定，Post 更性能好。。面试官还问我，是哪个更稳定？我还搞反了。。。）10. 两个 Norm 都需要 warm up 吗？（第一次被问这个，之前完全没看过，如实说了）11. 后面就问了 attention K Q V 怎么来的？ decoder 第二个的 K Q V 来源12. 训练和推理的时候的不同，会不会有影响？（就是如果推理预测的第一个 token 不一样，会不会错误累计？）后面还问了一些啥忘记了，代码题路径之和 3面了一个半小时，代码题搞得稍微久了点， 提问一个小时。

OPPO 计算机视觉算法开发工程师（camera方向）一面（8.9）：着重介绍一下就是说这个项目里面你这段实习经历里面他有什么需要解决的一个任务，然后遇到了些什么难点，你是怎么解决这些问题的？怎么提升模型服务CPU和GPU的利用率的？神经网络是否会出现预测错误的情况，如何改善？问了一个项目中的损失函数的目的是什么介绍一下知识蒸馏，不同的蒸馏方法的优劣势手撕：二叉树按层输出节点（层序遍历）二面（8.16）：平时在学校和实习经验编码的语言用的哪个多一些？代码量大概有多少？项目分工，接到任务分工完之后，如何开展工作的？项目的方案设计效果，整体流程项目过程中，你觉得你们碰到的最难的问题是什么？是怎么解...