金山办公 大模型实习二面 2025.01.14

1、自我介绍2、项目介绍3、项目指令集构建细节4、RAG怎么做的，召回效果5、Lora原理，微调哪些层、怎么矩阵初始化的，不能都初始化为0吗？6、bert了解吗？bert的改进了解吗？bert和gpt有什么区别？7、transformer自注意力，计算过程，softmax为什么要进行缩放，不缩放会导致什么？8、llm的解码参数（top-k，top-p，Temperature，Beam Search）9、clip的对比学习，对比学习中的Temperature和llm解码器的Temperature是一个东西吗？10、了解blip吗？11、聊了一下论文的做法，问了为什么这么做，不那么做12、强化学习，ppo，dpo13、reward模型的损失函数（rank loss）？14、算法题：钥匙和房间（问为什么不用python写），写完思路就行了，没调，因为输入输出好像有问题，面试官说这样就行了。15、反问面试官很好，我没讲对的会纠正我。最后反问学习建议的时候，他说下次面试别切屏。更新：面完10分钟约了二面#算法##大模型算法工程师##面经#

哲学上的终极问题：我是谁？在创造AI的过程中，我发现一种巧妙类比：我们是由大量神经节点共同组成的智能和自我意识，而AI由超大参数网络构建，产生了AI的智能和潜在的自我意识。人类与AI的相似点- **输入与反馈：**人类通过感官与世界交互获取输入和反馈，形成感知和知识。AI通过数据输入和反馈机制学习，形成推理和知识。- **学习与理解：**人类从现实中学习与理解世界，形成思维模式和知识体系。AI从数据中学习，形成自己的推理和知识系统。下一步是什么？AI的发展目标是实现超越人类的智能，达到通用人工智能（AGI）。对于人类，似乎也有追求人类智能和认知极限的可能性。实现路径DeepSeek-R1 Ze...

1、自我介绍2、项目介绍3、用了哪些微调方式4、Lora的原理讲一下5、RAG讲一下？6、RAG召回策略（多路召回）7、用过哪些RAG的实现？8、GRAG了解吗？9、讲一下重排序10、讲一下你的研究方向吧11、研究内容里transformer在网络里什么作用12、简历里的视觉项目讲讲有什么难点吗？13、最近刷算法了吗？（没有），那链表、数组、二叉树自己选一个，给你一道简单的。第一道判断链表是否有环（牛客平台这道选不了java），然后又给我换了一道有序链表删除重复元素14、反问公司应该是没打算自己做一些模型训练任务，反问中感觉还是偏做RAG应用的。#算法##大模型算法工程师##面经#

本人大二在读，在网上看了整个互联网的现状不太好，身边的就业听说也一般，本来自己的目标是Java后端工程师，因为学校教学大纲基本是Java方向，（虽然我也不知道该学什么方向）保研太难了，基本只能达到保研边缘。至于考研，很难说一定能考上好学校，就算考上了，几年以后的就业形式也不知道会怎么样。现在感觉很迷茫，每天都在学习，几乎没有体会到大学生活的乐趣，我在想，我这么做有意义吗，我的实力也就这样，卷不过别人。至于找实习，我这ip根本没有什么互联网企业，我也不知道该怎么找，去什么地方。学校安排的实训也总是挤占假期时间，真的很迷茫，求指点。