网易有道 CV/多模态大模型 一面面经

9.28 一面1、构建搜索二叉树2、项目3、逻辑回归介绍一下，损失函数4、逻辑回归缓解过拟合的方法5、l1和l2正则化的区别6、为什么l1可以起到稀疏特征筛选的作用？代码题没写出来==================10.13 二面/再次一面1、项目2、如何确保模型输出的格式正确？3、解码方式有了解吗？4、能否从解码方式上约束模型输出？5、大模型结构了解吗？6、注意力机制公式，为什么要除以根号k的维度？不除以的分布是什么，除以后的分布是什么？7、手撕零钱问题8、实现开根号代码题再次没写出来。。。。。。。。。挂了

大家好！我从事深度学习相关工作已有4年，目前主要专注于垂直领域大模型和RAG相关项目。最近参加了几轮技术面试，收获了一些干货，特来分享，求个点赞支持！这次目标：5个点赞！有了更多点赞，继续分享更硬核的内容！面试问题汇总LoRA 微调原理：微调哪些层？常用训练参数设置：epoch、learning_rate 等。RAG 切片实现方法：如何设计和优化切片过程？微调中的常见问题与解决方案：面试官特别关注实际踩过的坑和解决思路。Embedding 召回优化策略：如何提高召回效果和模型效率？复读问题分析：原生模型复读不严重，微调后却复读明显，原因何在？感觉最近的模型不咋重复啊。领域知识注入：LoRA 微...

10.16 一面1、项目2、如何确保模型输出的置信度可信？3、lora和qlora介绍一下4、训练并行有哪些================10.22 二面主要聊实习和规划================hr面已拒

#面经#背景工作4年，长期从事深度学习相关工作。目前的主要方向是垂直领域大模型和RAG相关项目。  xdm本期要5个点赞！！有点赞继续分享面试问题1. LoRA原理，微调的哪些层，相关训练参数设置， epoch、learning_rate等等2.RAG 切片怎么做的？3. 微调中遇到了哪些问题，怎么解决？4. embedding 召回优化5. 原生模型复读不严重，为什么微调后复读严重？  感觉现在模型不咋重复了。。6. 领域知识能不能通过LoRA微调得到7. 如何解决大模型幻觉？或者说如何缓解吧8. loss 除以 10 和学习率除以10 有区别没？主要考优化器9. self-attention为什么要做qkv的线性变换？一开始听着这个题目，懵的10.机器学习懂不懂？11. self-attention 为什么 要做softmax？给你两个字符串，比如s1=acdk, s2=ckad，每次可以把s1的任意一个字母移动到末尾，问最少移动次数使s1=s2。如果不存在，则返回-1；题目：没见过，做不来。很想开cursor给它秒了。。。#牛客创作赏金赛#点赞给个鼓励吧~ 祝我们都拿到满意的offer!#ai智能作图#