淘天大模型业务组招实习生有无xd想来🙀

😅真的不是KPI吗大模型岗官网投递挂了，内捞了3次😭

面试的部门是字节seedlm二面感觉面试官很和善面试问题：- transformer 的 decoder 和 llama 有啥区别，他们的位置编码有啥区别？ 三角函数位置编码和 ROPE 公式很像啊，他们是怎么实现不同的功能？（一个加 embedding 一个加 KQV，但是公式很像但是推理完全不一样吧，不太会答）- 介绍一下RLHF流程，包括哪几步- llm有哪些评估指标？如何评估模型？- lora原理细节，为什么可以加速？什么是秩？- reward bench上的reward model分哪几类？reward model如何训练的，训练目标是什么？- dpo训练的损失函数和训练目标，dpo如何改进代码题：- 给定长度为 n+1 的数组 nums，其中元素取值范围为 [1, n]，求唯一的重复数。- 手写多头注意力mha，写完后让加位置编码（因为之前写过了，继续吟唱）

面试问题：- 聊聊对transformer的理解，整体结构是怎样的？几个部分组成- Attention的公式里为什么要除以根号dk？这个操作有什么作用？另外，为什么在训练过程中容易出现梯度消失或梯度爆炸的问题？- （针对简历提问）在sft中遇到了哪些问题？最后是怎么解决的？能不能分享一下你的经验？（好好好套方案？）- （针对简历提问）领域大模型数据配比是如何考虑的？不同领域的数据比例如何确定？- 为什么现在的LLM都是Decoder-only？这种结构有什么优势？- ADAM优化器比SGD好在哪？简单介绍一下梯度下降的原理，ADAM是怎么改进的？。。。代码题：- 给定一个互不相同的整数数组 nums，求其所有子集（幂集）。（类似leetcode78）- （第二个题好像是个字符串的题，忘了）