2024-08-23 20:48 北京大学 自然语言处理 发布于北京
关注
百度提前批 AIGC 凉
凉透了啊，主要是基础的机器学习知识不会。。。
1.自我介绍
2.实习介绍
3.实习经历提问
如果有一个无限长文本的大模型，和一个有限长带知识库 rag 的大模型，你怎么利用他们解决长记忆？
调 prompt 过程有哪些问题？
prompt 样本多了效果变差你理解是什么原因？
简单介绍一下 peft 微调和他们的优缺点。
peft 训练的时候有没有注意他们训练的时间长短比较？
你觉得你这个对齐用 RLHF 会不会更好一点？
其他的忘记了
尴尬的开始了，面试官硬要问我机器学习 hh（这个毕竟不是一直做算法，很多基础课都很差）
先问 cos 距离和欧式距离是否是同步增和减？（会不会出现一个增另一个减的问题。我没推出来）
面试官：你这下去看看，这是 rag 向量检索的基础。
写了个代码题字典数
面试官：还是要问点机器学习的。。。
交叉熵公式写一下（慌了，好几个月都没复习这个了🥲，真记不起来，反正各种提示也不记得，寄）
面试官：这种基础的都能忘记啊？
那你再讲讲 self attention 的计算的流程啥的，中间的维度，softmax 对行还是对列？（这块应该没啥问题）
面试官：再问点什么机器学习的呢？交叉熵都不记得了，看看你简历有啥。（思考了一会）算了，就到这里吧，你看看你有啥要问的。
这个时候面试已经一个半小时了😭😭代码题后及时结束多好。。还是要回去复习基础知识了。心碎啊
1.自我介绍
2.实习介绍
3.实习经历提问
如果有一个无限长文本的大模型，和一个有限长带知识库 rag 的大模型，你怎么利用他们解决长记忆？
调 prompt 过程有哪些问题？
prompt 样本多了效果变差你理解是什么原因？
简单介绍一下 peft 微调和他们的优缺点。
peft 训练的时候有没有注意他们训练的时间长短比较？
你觉得你这个对齐用 RLHF 会不会更好一点？
其他的忘记了
尴尬的开始了，面试官硬要问我机器学习 hh（这个毕竟不是一直做算法，很多基础课都很差）
先问 cos 距离和欧式距离是否是同步增和减？（会不会出现一个增另一个减的问题。我没推出来）
面试官：你这下去看看，这是 rag 向量检索的基础。
写了个代码题字典数
面试官：还是要问点机器学习的。。。
交叉熵公式写一下（慌了，好几个月都没复习这个了🥲，真记不起来，反正各种提示也不记得，寄）
面试官：这种基础的都能忘记啊？
那你再讲讲 self attention 的计算的流程啥的，中间的维度，softmax 对行还是对列？（这块应该没啥问题）
面试官：再问点什么机器学习的呢？交叉熵都不记得了，看看你简历有啥。（思考了一会）算了，就到这里吧，你看看你有啥要问的。
这个时候面试已经一个半小时了😭😭代码题后及时结束多好。。还是要回去复习基础知识了。心碎啊
全部评论
找不到实习的大摆子 楼主
楼主 北京大学 自然语言处理
意难平啊家人们，这个 cos 和欧式距离一个是角度一个长度怎么可能同步。。。当时没太明白。
loss 确实是高频考点。
机器学习那些比较基础的八股还是一定要会，虽然一般可能用不到。
Boan_
天津大学 算法工程师
哈哈，看你是北大的想挽留一下，换成其他学校问到后面早就不耐烦了
希望有好offer
北京工业大学 算法工程师
请问佬，prompt 样本多了效果变差你理解是什么原因？这个问题应该会有哪些原因呢
备战秋招春招
门头沟学院 算法工程师
研究岗还是业务岗啊，问这么多吗
Amazarashi66
门头沟学院 人工智能
佬几面，我也是AIGC，二面秒挂
找LLM应用工作
上海交通大学 算法工程师
请问现在有后续吗？我也才面这个，太难了二面
相关推荐
查看14道真题和解析 点赞 评论 收藏
分享
查看27道真题和解析 点赞 评论 收藏
分享