网易深度学习面试求指教～

岗位职责：1. 建设大模型基础能力，研发包括指令遵循、推理规划、知识注入、沟通技巧等大模型基础通用能力，提升美团场景所需的大模型基础能力；2. 结合大模型，研发对话交互场景的大模型Agent，支持智能客服、语音智能分析等项目，通过预训练、微调、强化学习等全链路的技术实践，实现类人的理解和执行能力，提升美团服务能力和效率；3. 基于大模型，参与研发对话交互相关项目，建设连接用户与美团生活服务能力；4. 不断探索技术新领域，推动技术能力的沉淀和技术氛围的建设。岗位基本要求：1. 熟悉大模型的原理，具备数据处理、精调、预训练、强化等方面的经验；2. 熟悉自然语言处理常见算法与模型，具备深度学习技术在NLP领域的应用实践； 3. 具备良好的编程实现能力，熟悉C++、Python、Java等常用编程语言中至少一种； 4. 具备强烈的进取心、求知欲及团队合作精神，热衷于追求技术创新；5. 在ACL、EMNLP、NAACL、NIPS、ICLR、SIGIR等自然语言处理会议或期刊中有论文发表者优先；6. 每周至少全职工作四天，保证实习至少6个月，实习须征得导师同意。具备以下优先：-岗位亮点：1、资深算法专家的一对一指导2、丰富的GPU资源及核心场景数据3、真实应用场景的实践4、发表国际会议论文的机会感兴趣的同学欢迎联系，base北京/上海均可

目前已经是毕业几年的老鸟了，因为面试过别人，所以面小公司相对轻松。背景，研究生以来一直从事深度学习相关工作。目前在做垂直领域大模型和一些RAG。Q1：为什么跳槽？接下来基本是对着简历找感兴趣的地方。Q2: RAG 讲一讲你这个项目Q3: 分片怎么优化的？Q4: 评测怎么做的?Q5：什么时候RAG什么时候微调？Q6：self-instructQ7: 微调方法Q8: DPOQ9: 团队构成Q10: 产品不懂技术，如何缓解这带来的问题最后是反问。先拿小公司试试手，这个一面看起来问得比较浅。从我的经验来看，大概是想要确认你是否真的做过相关工作。欢迎大家小窗交流沟通。后面会陆续更新~

Transformer部分：https://jwjyxndv6cs.feishu.cn/docx/YGS9dX0mUov1tvxf9cwcgfk5nQe?from=from_copylinkBert部分：https://jwjyxndv6cs.feishu.cn/docx/XQmFdDhddoDcQ8xrWDzcMRZWnZP?from=from_copylinkLLM部分：https://jwjyxndv6cs.feishu.cn/docx/XOzTdG7gMoNjXSxOJNJcBVJonGb?from=from_copylink手撕：https://jwjyxndv6cs.feishu.cn/docx/QkY3d8QhdokrTCxrPCdc5Lnhnrd?from=from_copylinkMegatron：https://jwjyxndv6cs.feishu.cn/docx/XC4CdmIVEoZX9xxh0B9cKn7JnDd?from=from_copylink

2025届秋招可以说是大模型校招的元年，而且真的是大模型岗位最简单的一年（个人主观觉得）；虽然我的秋招岗位是嵌入式软件开发工程师，但是我读研毕业的研究方向有大模型啊，中间一些不区分岗位的公司面试也没少问我大模型的知识点，不耽误我梳理一些经典的面试拷打题目出来~一、基础概念与模型架构这些问题关注模型的基本原理、架构设计、以及不同类型模型的对比。请简述Transformer的基本原理；为什么Transformer的架构需要多头注意力机制？为什么Transformer需要位置编码？为什么transformer块使用LayerNorm而不是BatchNorm？介绍一下post layer norm和p...