#面经#背景工作4年，长期从事深度学习相关工作。目前的主要方向是垂直领域大模型和RAG相关项目。  xdm本期要5个点赞！！有点赞继续分享面试问题1. LoRA原理，微调的哪些层，相关训练参数设置， epoch、learning_rate等等2.RAG 切片怎么做的？3. 微调中遇到了哪些问题，怎么解决？4. embedding 召回优化5. 原生模型复读不严重，为什么微调后复读严重？  感觉现在模型不咋重复了。。6. 领域知识能不能通过LoRA微调得到7. 如何解决大模型幻觉？或者说如何缓解吧8. loss 除以 10 和学习率除以10 有区别没？主要考优化器9. self-attention为什么要做qkv的线性变换？一开始听着这个题目，懵的10.机器学习懂不懂？11. self-attention 为什么 要做softmax？给你两个字符串，比如s1=acdk, s2=ckad，每次可以把s1的任意一个字母移动到末尾，问最少移动次数使s1=s2。如果不存在，则返回-1；题目：没见过，做不来。很想开cursor给它秒了。。。#牛客创作赏金赛#点赞给个鼓励吧~ 祝我们都拿到满意的offer!#ai智能作图#

大家好！我从事深度学习相关工作已有4年，目前主要专注于垂直领域大模型和RAG相关项目。最近参加了几轮技术面试，收获了一些干货，特来分享，求个点赞支持！这次目标：5个点赞！有了更多点赞，继续分享更硬核的内容！面试问题汇总LoRA 微调原理：微调哪些层？常用训练参数设置：epoch、learning_rate 等。RAG 切片实现方法：如何设计和优化切片过程？微调中的常见问题与解决方案：面试官特别关注实际踩过的坑和解决思路。Embedding 召回优化策略：如何提高召回效果和模型效率？复读问题分析：原生模型复读不严重，微调后却复读明显，原因何在？感觉最近的模型不咋重复啊。领域知识注入：LoRA 微...

Transformer部分：https://jwjyxndv6cs.feishu.cn/docx/YGS9dX0mUov1tvxf9cwcgfk5nQe?from=from_copylinkBert部分：https://jwjyxndv6cs.feishu.cn/docx/XQmFdDhddoDcQ8xrWDzcMRZWnZP?from=from_copylinkLLM部分：https://jwjyxndv6cs.feishu.cn/docx/XOzTdG7gMoNjXSxOJNJcBVJonGb?from=from_copylink手撕：https://jwjyxndv6cs.feishu.cn/docx/QkY3d8QhdokrTCxrPCdc5Lnhnrd?from=from_copylinkMegatron：https://jwjyxndv6cs.feishu.cn/docx/XC4CdmIVEoZX9xxh0B9cKn7JnDd?from=from_copylink

时间线：2024年12-9投递——2024年12月10日约面——2024年12月12日一面自我介绍let const var 的区别输出题：let const varES6新特征闭包立即执行函数Vue组件通讯方式跨域及其解决方式算法：字符串括号匹配事件循环输出题：宏任务微任务感觉好简单？都没有问我项目，感觉是kpi面试官人好好 会一步步引导你 而且长得好像林允儿 如沐春风更新：2024-12-13 问了一下hr 说基础不错，但是实习期太短了，感谢信了md 以后直接无脑实习6个月