微软LLM实习

刚面完估计凉，趁着还记得写写论文项目实习穿插八股llama系列介绍下大模型训练流程说下lora介绍下rope为什么都不用正余弦编码了(感觉他不满意，说了相对位置编码优点，可学习的一些，最后硬说效果不好哈哈)为什么要sft，试过么，调得什么包，做过rf么，无通用的sft和业务的sft有什么区别为什么gpt的少量多语言数据，多语言能力也很好，如何提高？(说了跨语言，多语言对齐做些nlu翻译任务和llama的少量微调，没答到他心趴上)对比学习主要难点sft和rf之后哪个模型的多样性更好(我说rf之后，他说不对反了，我又改口，刚刚搜gpt，gpt和我的观念和思路一样😡，所以到底是啥)如何提高回答的多样性(说了温度，数据，多任务，数据加噪，又没答到心趴😡，我自己觉得挺对的)手撕 18，四数之和，按照三数之和双指针写的，最后有点有个if的判断条件写错了没查到，给了感觉就20分钟，就说时间到了，我说我马上就写出来，他说但是时间到了，我说我思路肯定没问题，他说先不关心这些，问我有啥要问他的知道无望了就问了评价一下表现，说这个代码能力是基础就不用讲了(那你也给多我点时间我找找bug呀，也没问我写的啥思路)，说我大模型的了解一般(这个我认可)，总得来说体验一般 ，本来就不太想去哈哈哈对了，我还问他主要做啥，她说现在也没啥业务，主要还是整数据train basemodel，我说那就是进去做数据工程喽哈哈，评价不如打游戏一小时 #牛客创作赏金赛#

bg本科211研究生海外qs前50，还有一年毕业敢问各位大佬，进算法岗的要求是什么啊，本人目前0实习海外前50硕士在读，还有一年毕业，想找一段算法大厂的日常实习，base深圳。之前到是用bert做一些情感分析的任务，但感觉非常基础，目前根本不知道怎么着手，怎么准备，茫然的很 #没有实习经历，还有机会进大厂吗#

岗位要求:1.大学本科及以上学历，计算机、数学、统计学等相关专业;2.对算法和数据挖掘领域有浓厚的兴趣，熟悉常用的数据挖掘和机器学习算法，了解因果推断技术、运筹优化算法、机制设计等;3.熟练掌握至少一种编程语言，如Python、Java等，并具备良好的编程能力;4.具备良好的数学分析能力和逻辑思维能力，能够独立解决问题;5.具备较强的团队合作精神和沟通能力，能够有效协作完成团队项目;

Transformer部分：https://jwjyxndv6cs.feishu.cn/docx/YGS9dX0mUov1tvxf9cwcgfk5nQe?from=from_copylinkBert部分：https://jwjyxndv6cs.feishu.cn/docx/XQmFdDhddoDcQ8xrWDzcMRZWnZP?from=from_copylinkLLM部分：https://jwjyxndv6cs.feishu.cn/docx/XOzTdG7gMoNjXSxOJNJcBVJonGb?from=from_copylink手撕：https://jwjyxndv6cs.feishu.cn/docx/QkY3d8QhdokrTCxrPCdc5Lnhnrd?from=from_copylinkMegatron：https://jwjyxndv6cs.feishu.cn/docx/XC4CdmIVEoZX9xxh0B9cKn7JnDd?from=from_copylink