ai 金融岗需要金融背景吗

最近比较忙，面试也没停，不记得太多了，写一些我觉得比较有意思的。来源淘天 度小满 快手 字节等1. Bert 的结构和预训练任务2.Bert 的 MLM 任务和 word2vec 的上下文预测中间有啥区别？3. 知不知道 rag 用的 embedding 和 bert 的区别？4. rag 检索会有啥优化？5. lora 微调在显存上主要节省的是哪部分空间？（优化器）6. 微调数据集怎么做的采样？怎么优化？7. 强化学习的一些，DPO 的一些优化8. attention 有哪些优化？（其实不太懂，我就说 GQA MQA）其他的大部分八股都是很常见的，主要是最近被连续问了两次 embedding 相关，可以看看 bge 的预训练任务代码比较常规吧，有意思的是二分类器输入 100 bs 的 64 维度输入和 Y label，自己实现 sigmoid BCE layerNorm， 先过一个 Linear 再过 layerNorm 再过 Linear 再计算 loss 返回

04.02 深挖实验室项目，无八股。算法：接雨水

线下面试，一轮技术面一面拷打项目数据清洗、分词、配比拷打论文、创新点、方法BPE长文本位置编码优劣二面hr为啥搞算法协作遇到的困难、咋解决意向地、薪资面产品岗的人巨多，都是帅哥美女，不过听说他们10进2好吓人…

如题，有了解这个岗位的uu嘛，听说统招统分做大模型的TL:一面 9.3测评二面 9.23（原定9.11-9.13线下面，但人不在学校就给安排到线上了）三面hr面 9.30意向 10.16面试都是半小时，八股问得比较少，都是介绍实习项目