面试的部门是字节seedlm二面感觉面试官很和善面试问题：- transformer 的 decoder 和 llama 有啥区别，他们的位置编码有啥区别？ 三角函数位置编码和 ROPE 公式很像啊，他们是怎么实现不同的功能？（一个加 embedding 一个加 KQV，但是公式很像但是推理完全不一样吧，不太会答）- 介绍一下RLHF流程，包括哪几步- llm有哪些评估指标？如何评估模型？- lora原理细节，为什么可以加速？什么是秩？- reward bench上的reward model分哪几类？reward model如何训练的，训练目标是什么？- dpo训练的损失函数和训练目标，dpo如何改进代码题：- 给定长度为 n+1 的数组 nums，其中元素取值范围为 [1, n]，求唯一的重复数。- 手写多头注意力mha，写完后让加位置编码（因为之前写过了，继续吟唱）

BP16 和 FP16 在存储结构、精度表现、数值范围以及适用场景方面有什么不同？训练时使用bf16更稳定，表示范围大，并且自带隐式正则化buffer；推理时使用fp16比bf16更好，因为fp16表示精度高。 https://www.zhihu.com/question/616600181/answer/3194881239怎么解决训练使用float16导致溢出的问题？使用 缩放因子 trick混合精度训练kv-cache的作用一种缓存技术，通过存储键值对的形式来复用计算结果，以达到提高性能和降低内存消耗量化方法的分类按量化对象分：KV Cache量化、模型权重量化、激活值量化-按量化阶段分...

有无小伙伴面过字节的data-电商的搜索大模型呀(搜索团队) 想问问难度怎么样 有无面经分享[哭惹R] #大模型面经#  #字节跳动工作体验#