百度提前批一面面经总结

自我介绍到一半打断了，直接问八股……关注的点和一面一样有点奇怪，特别喜欢问我记不记得base模型的d_models和seq_len以及各种各样的参数……项目里一直纠结我训的1.5B模型，我跟她说我还训了3.8B和72B版本，没让我讲下去，说1.5B已经很大，可以满足我们项目需求了……代码题做了lc. 236的变体最近公共子节点，和lc. 15三数之和，手撕的没什么问题，但这三数之和在一面已经考过一遍了……#百度求职进展汇总##关于提前批我想问#

1.5h项目介绍+问答Hashmap扩容机制，有哪些安全问题Hashmap扩容的过程中，如果查询数据，是如何处理的Threadlocal是什么，如何工作的线程池的用法，拒绝策略，在项目中是怎么设置的进程和线程的关系，有了进程为什么还要有线程Corn表达式了解不？正则表达式？ 写一个密码匹配，包含字母数字下划线，长度大于8做项目的动机是什么手撕，二叉树最大宽度与最深路径的交点（因为是在main函数里面写的，输入的二叉树要自己构造，一开始把二叉树构造错了，调试到红温才发现）。---------------本周还有6个笔试要做，这回是真爽到了

问项目问的很奇怪，比如预训练模型初始化怎么做的，模型多少层，嵌入维度怎么样，权重捆绑。问了一堆深度学习的八股，bert，transformer，梯度消失梯度爆炸，BNLN之类的。代码做了两题，lc.200 岛屿数量 和 lc.16 最接近的三数之和，手撕了，后面问了三数之和时间复杂度优化策略和n数之和思路。反问问了对方业务，主要是百度APP首页搜广推。第二天告知一面已过#百度求职进展汇总##百度#

moe和dense模型的区别，各自的优缺点 a. 参数量，计算量，训练效果，如何选择deepspeed原理，你是否可以从理论上对 ds 的 stage3 阶段的性能进行分析混合并行策略是否了解，介绍一下 TP，PP，DP 的使用场景介绍一下混合精度训练的原理和优势 ● 追问量化技术是否了解是否了解 Hopper 架构的新特性，对 flash-attention3 是否了解，两者的结合如何介绍一下 SM，SP，warp 相关概念和关系（感觉想问 warp-group...力扣手撕：岛屿数量未来发展方向，对 LLM 行业的态度及意向