百度-NLP算法工程师面经

9.28 一面1、构建搜索二叉树2、项目3、逻辑回归介绍一下，损失函数4、逻辑回归缓解过拟合的方法5、l1和l2正则化的区别6、为什么l1可以起到稀疏特征筛选的作用？代码题没写出来==================10.13 二面/再次一面1、项目2、如何确保模型输出的格式正确？3、解码方式有了解吗？4、能否从解码方式上约束模型输出？5、大模型结构了解吗？6、注意力机制公式，为什么要除以根号k的维度？不除以的分布是什么，除以后的分布是什么？7、手撕零钱问题8、实现开根号代码题再次没写出来。。。。。。。。。挂了

今天一家公司二面，纯写代码不聊别的。牛友们，收集5个赞！点赞收藏，Offer进账！热身pandas 建一个二维表基础的数据查看，前几行、多列、one-hot转换MLP模型定义训练过程可能最近有点冷，前面热身写得很慢，自己的笔记本键盘也不是很熟悉（总之就是要找点借口）后面就是熟悉的领域，基本上大差不差。欢迎大家交流面经(小窗私聊)，取长补短。

1. tokenizer的作用？为什么bert要用专门的tokenizerBert有自己的tokenizer，是自己训练好的词表，并且在起止位置都加上了特殊符号注意：尽管tokenizer翻译为分词器，但功能并不仅限于分词，还包括映射词表，添加特殊符号，统一长度（padding、截断）2. 相对位置编码的作用？Rope、Abili1）一定程度上实现长度外推性2）能够获取文本位置中的相对关系3. 大模型是怎么训练出来的？decoder ： 预训练SFT：问答微调RLHF：人工排序，对齐人类偏好4. huggingface里面为什么有些方法可以调用，但是不能查看源码实现面向对象、python的动态特性、导入包、本地方法？5. 用户怎么获取大模型的有害信息（安全问题，赛博奶奶）

百度是一家很简单的公司不是因为他的价值观是简单可依赖，而是他的福利很简单百度是我第一家去实习的公司，在22年12月中旬就拿了offer，然后，发生了大家都知道的事情，我在床上躺了半个月，来年1月份才去上海，我的生日就是1月3号，就是在这天去的上海，当天就复羊了，我就发着39°的烧，找房子找到了夜里九点多，然后十点多的时候点了个外卖，也没什么胃口吃，第二天就入职了上海的房子很小，我这辈子第一次住这么小的房子，也就七平米，但我很期待，这是我第一份实习，也是第一次自己离开家乡，去一个大城市，我觉得很酷最近学弟和我聊，说我去了百度上海，快手北京，南大南京，淘天杭州，四个地方都是租房的度过的，他觉得学长...