大模型 实习

感觉面试官非常没有面试的欲望，面试也很短，没搞懂。1. 自我介绍2.项目拷打介绍实习项目的背景从最一开始是怎么做的，怎么考虑优化的？怎么评估我们最后的模型？比较好的数据获取方式有哪一些？除了 SFT 有做 DPO 吗？DPO 的 loss 是什么？（含含糊糊的描述了一下）有了解推理加速吗的原理吗？Qwen2 有哪些提升？Group Query Attention 是什么原理？问的很少，半个小时就写题，写 top K。很快写完了，但是用 C++我的 include queue 写成了 include priority queue，所以显示没有这个文件跑不通。我问面试官：好像飞书没支持优先队列（我都心虚），能不能自己编译器跑一下给你看？面试官：不用了，代码就到这里吧。然后反问一面就这样，我想着代码题我也不是不会，一般都多少会让我跑一下？他也不要我解释也不看，直接结束。

组是负责处理字节内部事宜的工作，可以说是什么都干，监测票据、查找文本特殊信息、总结文件等等。拷打实习transformer 前馈神经网络的结构， 为什么会先提升维度后缩小维度multihead 如果改变head个数会影响参数量吗大模型是temperature先起作用还是top p如何解决幻觉，复读机问题如何处理局部最优点过拟合l1,l2区别，用法力扣1650  二叉树的最近公共祖先

本硕双非，坐标北京。今天刚见过导师，方向是大语言模型这块，以及跟我强调了研三才能出去实习。求大神指点迷津一下，万分感谢。

想求助大佬们给我一些建议🥲 情况：本硕985生物医学工程专业，硕士研究方向是医学图像处理。目前读研组内氛围很不好，导师不指导+干杂活，且不放实习，组内硕士师兄师姐延毕情况严重，我也感觉凭自己的能力很难发顶刊。本来本科选方向的时候是奔着以后去算法岗的，但是因为算法岗对论文的要求现在看来比较困难😭 目前在考虑要不要从现在开始转学开发，因为在不干杂活的时候导师是不管我们在工位干什么的。但是我是非科班出身，本科只学过c++基础和面向对象，计算机数据结构基础基本上没学过 。 各位大佬可否给我一些建议，是继续算法还是转开发，想了解一些现在的行情...