源络NLP AI算法面经

📍面试公司：美团👜面试岗位：算法📖面试问题：主要分了两部分，简历里项目，论文，竞赛和手撕。项目是穿插着八股问的，下面是涉及到八股的一些问题1.如何缓解大模型的复读机问题和幻觉问题2.讲一下大模型的采样3.为什么做了sft还要做ppo4.讲一下qlora的好处5.讲一下ppo的四个模型6.sft数据的多样性怎么保证7.dpo和ppo相比的优势在哪里8.有没有考虑过rag，具体怎么实施的手撕是基础的单头注意力，写完之后问了怎么改多头，为什么要除以根号dk和单头改多头的参数量会不会变。反问问了一下业务和对于大模型定量计算的看法🙌面试体验：体验不错，没答上的地方也只是说下去看看。#面试体验感最好的是哪家？# #大模型实习# #大模型算法工程师# #大模型面经# #美团求职进展汇总#

部门：QQ音乐base地：深圳流程：一面+二面+三面+HR面推进速度：非常快，每一面在一小时内出结果一面 50min自我介绍论文介绍什么是MHAAttention运算公式为什么除以根号dk介绍现有相对位置编码和绝对位置编码的异同点，都有哪些结构RoPE的结构RoPE相比于绝对位置编码的优势是什么？为什么外推性更好？为什么RoPE理论上可以无限外推？RoPE为什么可以利用绝对位置和相对位置的优势？介绍RAG项目（基座模型是什么？几b ？全参微调用了多少卡？数据多大？问答对的形式有图片吗？对RAG的理解是什么？为什么要用RAG？BGE模型的结构什么是LoRA？有个两层神经网络，参数1万*一万，低秩...

10分钟论文+项目10分钟聊天4.30 oc

自我介绍问实习项目的基本交互情况Redis 本身所有操作是不是都是原子化的？例如 SET, GET, ZADD 等。如果两个客户端同时 SET A=1 和 SET A=2，会不会有非原子化或竞争问题？需要加锁吗？如何保证消息队列（RabbitMQ）在生产和消费时都不丢数据？如果为了提升性能，一次性拉取多条消息（批量消费），如何在使用手动 ACK 的前提下，既保证不丢数据，又能有效处理？手撕，判断包含 (), [], {} 三种括号的字符串是否有效，并且满足嵌套优先级规则（外层优先级 >= 内层优先级，自定义优先级顺序）。不用栈还有什么其他方法？提到可以用递归做。对 LLM 的了解？对 A...