百度 机器学习/数据挖掘/自然语言处理工程师 一面面经

1 了解机器学习吗，介绍几个我说了svm和线性回归2 常用的损失函数有哪些？3 sigmoid和softmax区别4 手撕交叉熵 #软件开发笔面经#

目前已经是毕业几年的老鸟了，因为面试过别人，所以面小公司相对轻松。背景，研究生以来一直从事深度学习相关工作。目前在做垂直领域大模型和一些RAG。Q1：为什么跳槽？接下来基本是对着简历找感兴趣的地方。Q2: RAG 讲一讲你这个项目Q3: 分片怎么优化的？Q4: 评测怎么做的?Q5：什么时候RAG什么时候微调？Q6：self-instructQ7: 微调方法Q8: DPOQ9: 团队构成Q10: 产品不懂技术，如何缓解这带来的问题最后是反问。先拿小公司试试手，这个一面看起来问得比较浅。从我的经验来看，大概是想要确认你是否真的做过相关工作。欢迎大家小窗交流沟通。后面会陆续更新~

#面经#背景工作4年，长期从事深度学习相关工作。目前的主要方向是垂直领域大模型和RAG相关项目。  xdm本期要5个点赞！！有点赞继续分享面试问题1. LoRA原理，微调的哪些层，相关训练参数设置， epoch、learning_rate等等2.RAG 切片怎么做的？3. 微调中遇到了哪些问题，怎么解决？4. embedding 召回优化5. 原生模型复读不严重，为什么微调后复读严重？  感觉现在模型不咋重复了。。6. 领域知识能不能通过LoRA微调得到7. 如何解决大模型幻觉？或者说如何缓解吧8. loss 除以 10 和学习率除以10 有区别没？主要考优化器9. self-attention为什么要做qkv的线性变换？一开始听着这个题目，懵的10.机器学习懂不懂？11. self-attention 为什么 要做softmax？给你两个字符串，比如s1=acdk, s2=ckad，每次可以把s1的任意一个字母移动到末尾，问最少移动次数使s1=s2。如果不存在，则返回-1；题目：没见过，做不来。很想开cursor给它秒了。。。#牛客创作赏金赛#点赞给个鼓励吧~ 祝我们都拿到满意的offer!#ai智能作图#

百度是一家很简单的公司不是因为他的价值观是简单可依赖，而是他的福利很简单百度是我第一家去实习的公司，在22年12月中旬就拿了offer，然后，发生了大家都知道的事情，我在床上躺了半个月，来年1月份才去上海，我的生日就是1月3号，就是在这天去的上海，当天就复羊了，我就发着39°的烧，找房子找到了夜里九点多，然后十点多的时候点了个外卖，也没什么胃口吃，第二天就入职了上海的房子很小，我这辈子第一次住这么小的房子，也就七平米，但我很期待，这是我第一份实习，也是第一次自己离开家乡，去一个大城市，我觉得很酷最近学弟和我聊，说我去了百度上海，快手北京，南大南京，淘天杭州，四个地方都是租房的度过的，他觉得学长...