大模型基础架构岗面经（二）

🔞 网易有道🧑‍🔧 大模型算法岗实习😶‍🌫️ 自我介绍+项目提问+手撕1. 介绍自己的大模型项目2. 数据集的制作和处理？有没有数据清理和筛选？数据总量被均分到每个角色上会不会有点少？对于数据分布不均衡的处理方式是什么？3. 模型选的是什么基座？基座规模有过筛选吗？4. LoRA微调的原理；LoRA微调与全量微调相比有什么不同？有试过全量微调吗？sft阶段的数据集格式？system prompt是如何设计的？5. 如何评价微调的效果？有没有对比微调之前的效果？模型推理采样过程的各种参数（top-p、top-k、temp），温度参数如何起作用（代码简单实现）。6. 对前沿技术的发展有何看法（deepseek、长思维链）。7. 讲讲RLHF。8. 项目中RAG是如何做的？代码：进房间拿钥匙（遍历，简单粗暴）+python输入的处理反问：岗位的日常工作、研究或产品第一次实习面试确实有点紧张，回答得磕磕巴巴🤐，面试官很和蔼，中间不会的地方还会提醒，不至于让我太尴尬。。。总的来说，作为第一次得体验还是挺满意的，下次还来😘#面经##实习#

科大讯飞2025届飞凡计划春招今日启动项目介绍：飞凡计划是科大讯飞开设的战略级校园人才招募和培养项目，面向全球优秀的应届毕业生，致力于发掘和培养公司未来的领导者。招聘岗位：飞凡计划-研发方向、飞凡计划-产品方向、飞凡计划-综合方向你可以收获：顶尖人工智能产业平台，极具挑战的业务课题；极具竞争力的薪酬及福利；双导师带教机制；定制化、宽视野的发展路径内推链接：https://campus.iflytek.com/home?refrenceCode=ALQPA27内推码：ALQPA27（内推简历优先筛选，有流程问题欢迎联系）投递得uu留下姓名缩写~我会跟进并联系！！！（摘自牛客网友）科大讯飞GO秋招...

🔞 美甲🧑‍🔧 语音算法实习生😶‍🌫️ 项目提问+基础理解+代码1. 自我介绍2. 介绍自己的论文（问得好细，质疑创新点、消融实验，一开始我的说法有点问题，面试官会揪着不放，幸好后面解释了一波）3. 你觉得当下的大模型相对于之前初代的bert等模型主要解决了什么样的问题？从原理上来讲，为什么现代大模型在生成式任务的能力要强于以前的MLM类的大模型？4. 现在大模型为了达到规模扩增，主要做了哪些技术上的优化？旋转位置编码相比于绝对位置编码好在哪儿？为什么不用绝对位置编码？5. 谈谈为什么MoE机制会成为主流？如何解决MoE训练过程中出现的路由偏爱（路由失效）现象？负载均衡是作用在什么上面的（模型 or token）？6. 代码：删除单向链表中的倒数第二个元素。反问：日常工作内容？对我有什么建议？这次面试与一面有很大不同，削弱了硬性八股的内容，更偏向于考核对大模型的理解。面试官也是蛮随和的人，每回答一个问题会及时给到我反馈，认可or纠正我的回答，这使得整个面试过程都有一个积极的刺激。最后说我对大模型的直觉挺到位的，我还挺开心的🥰#面经#