太初 大模型算法 一面

📍面试公司：网易有道👜面试岗位：大模型 实习生📖面试问题：1. top-k和top-p2. 对比损失和llm中的temperature3. lora微调4. llm中的强化学习5. 训练样本的文本如何构建的，输出的格式6. rag🙌面试体验：问的很细，难，一轮直接挂 #大模型面经#

随着招聘季的火热进行，我有幸参与了一系列面试，从校园招聘到社会招聘，我在这里分享一些关于大模型技术领域人才需求的观察和思考。🔍👨‍🎓 论文发表：在大模型领域，真正有影响力的论文并不多。许多论文只是在模型结构上做了微调，这些工作往往缺乏实际应用价值，已经很难吸引面试官的注意。在这个时代，简单有效的方法是更受欢迎的。💼 训练经验：由于硬件资源的限制，真正有大型模型训练经验的人并不多。对于那些有预训练经验的人才，我们视若珍宝。完整的训练经验更是各家的香饽饽，简历已经在猎头那一端被抢爆了。📈 模型评估和强化学习：这两个领域是大型模型的前沿技术，能够在这方面做得好的人可以显著领先于同行。然而，这些领域的资源要求也很高，而且存在很多挑战，因此有经验的人非常少。🛠 模型选择：在选择大型模型时，必须紧跟行业的主流趋势。一些非主流的模型可能并不可靠，而且可能无法与主流社区进行有效沟通。🌐 应用场景：目前，大型模型的成功应用案例还不多，大多数项目还处于探索阶段。从简历中可以看出，整个行业的进展还比较缓慢，尤其是在实际应用领域。🔥 人才需求：尽管如此，对大型模型的需求依然旺盛，优秀的简历非常抢手。许多公司都在寻找有这方面经验的人才。📚 面试问题：如果候选人的简历扎实，有丰富的大型模型经验，那么面试中通常不会问太多基础问题。相反，如果简历比较薄弱，但候选人有潜力转向这个领域，那么面试中会更多地考察潜力和基础知识。希望这些信息对大家有所帮助。在大型模型技术领域，真正的专业知识和实践经验是非常宝贵的。对于那些有志于这个领域的求职者来说，积累相关经验将大大增加竞争力。🚀

方向1：公司目前最火的算子开发赛道，帮助客户更快用好华为昇腾算力，推进昇腾算子开发生态，加速昇腾产品进入千行百业；基于昇腾CANN架构，构建高性能的NPU加速引擎解决方案。（核心竞争力，对标英伟达cuda）方向2：负责大模型与端云协同能力部署，实现端侧实时流畅的语言与视觉大模型加速计算。（不接触大模型，都不好意思说自己是搞AI的）【任职要求】业务技能要求：1、25届应届生；2、有较强的学习能力和编码能力；3、有良好的表达能力和沟通能力，注重团队合作，主动担当。专业知识要求：1、 C/C++或Python编程基本功扎实， 有较强的代码分析与实现能力；2、了解深度学习及神经网络加速的相关概念、有Caffe/Tensorflow/Pytorch等深度学习框架应用经验者优先。【岗位优势】1、多地域团队年轻，，规模化扩招50+！工作氛围轻松、活跃！#牛客AI配图神器#2、新业务，当下风口业务，舞台够大，可以大展拳脚，可达到的高度不设限，也容易出成绩。有意者可添加 微信联系方式

自我介绍LoRA是怎么用的Llama3中的注意力机制是怎样的项目中的奖励模型是如何训练的奖励函数如何设计DeepSeek中的奖励模型是如何训练的什么时候开始接触大模型的深挖项目指出项目实验的一个点，测试两个模型胜率时应对每一个prompt进行多轮测试，GPT4有位置偏好介绍预训练的微调的区别预训练的基座大模型可以对话吗代码：岛屿数量（白板模式）反问：部门实习生干嘛，和正式员工差不多。研究方向：有道词典中英文互译，中小学生答题的大模型落地。薪资：不知道面试官人挺好，问题都是围绕项目来问的，就像同僚之间交流一样，他说他的观点，指出我项目的不足，我也说我最近看的论文，互相分享技术。3.11还没消息，估计挂了