京东三面面经

1. 自我介绍

2. transformer中softmax的作用?不做softmax会有什么问题?Softmax怎么解决上下溢的问题?除了减去最大值还有方法?
3. selfattention 和传统attention 的区别?为什么Q K矩阵要不一样?Q K相同会怎么样?
4. BERT的CLS token的作用?这个CLS在下游分类任务的效果不好,有什么不用CLS的改进方法吗?用BERT做分类如何更好表达句子含义?BERT的输出有几种?对应BERT中的哪两个函数?BERT当中哪些计算是线性的哪些是非线性的?BERT是怎么区分一词多义的?
5. 学习率warmup的用法和作用?解释梯度消失的原因和解决方法,Dropout可以解决梯度消失吗?
6. BERT和GPT各自结构的优势?如果大模型以后部署、速度都得到了很大的提升,BERT会被取代吗?
7. GBDT和随机森林的区别?各自的方法流程?各自的数据处理的特点?各自偏向于解决什么问题?GBDT和随机森林对异常值的敏感程度?随机森林随机体现在哪些地方?
8. 讲一下BN和LN,Transformer问什么不用BN?
9. LORA微调的目的?LORA可以增加领域知识吗?LORA矩阵初始化?两个矩阵的初始化反过来会怎么样?LORA微调的超参?
10. LLM复读机问题以及解决方法有哪些?怎么抑制LLM的幻觉问题?常用的位置编码有哪些? 一些对原始attention的改进有哪些?
11. 为什么要用多头注意力?多头的思想和QKV三个不同投影矩阵的思想的异同?QKV矩阵除了增加表达能力以外还有什么作用?(不太懂问的是啥,面试官后面提示说是还有降维的作用,不是很懂)类似多头的集成的思想在什么算法里面比较常见?(我答了机器学习的集成学习类,比如前面的随机森林,还说了MOE这种,面试官比较想听到的是多尺度CNN)

修改了一些内容,恢复开放了,之前热度太高有点😨

#京东求职进展汇总# #软件开发笔面经#
全部评论
八股仙人
13 回复 分享
发布于 2024-09-10 20:22 北京
没绷住,和我完全一样的面经,我也今天面的,晚上就挂了
6 回复 分享
发布于 2024-09-10 23:40 上海
已经能感受到面试的时候的窒息感了
5 回复 分享
发布于 2024-09-10 20:45 广东
这八股也太炸裂了😂
4 回复 分享
发布于 2024-09-10 20:32 安徽
😂你这nlp岗含金量妥妥拉满啊😂
3 回复 分享
发布于 2024-09-11 00:17 陕西
https://zhuanlan.zhihu.com/p/360343071
2 回复 分享
发布于 2024-09-10 20:53 北京
我去,这八股的拷打
1 回复 分享
发布于 2024-09-11 11:18 四川
请教一下,lora两个矩阵的初始化反过来会怎么样?答案应该是怎样的呢
点赞 回复 分享
发布于 2024-10-13 15:13 上海
woc,传统算法现在也常问么😱
点赞 回复 分享
发布于 2024-09-30 21:12 安徽
有点像KPI,是不对口吗,为啥项目没问?
点赞 回复 分享
发布于 2024-09-20 16:43 辽宁
请问一下是什么部门呀
点赞 回复 分享
发布于 2024-09-20 09:41 辽宁
难死了
点赞 回复 分享
发布于 2024-09-11 15:12 江苏
人傻了
点赞 回复 分享
发布于 2024-09-11 14:48 北京
佬,时间线可以说一下吗
点赞 回复 分享
发布于 2024-09-10 20:35 北京

相关推荐

03-22 19:33
已编辑
门头沟学院 Java
京东 核心组,做AI算法 50-70w
点赞 评论 收藏
分享
04-10 20:45
小米集团_算法
#牛客AI配图神器#📢 抢先锁定2025届春招席位!🛎️ 投递方式📌 点击下方链接投递,并使用小米内推码:67RBTMZ🔗 投递链接:https://xiaomi.jobs.f.mioffice.cn/referral/position?token=MzsxNzQxMDcwMjQzNjY5OzcyNTI2OTgwMTM5ODk1MTk0Njk7MA📌 点击下方链接投递,并使用小米内推码:67RBTMZ🔗 投递链接:https://xiaomi.jobs.f.mioffice.cn/referral/position?token=MzsxNzQxMDcwMjQzNjY5OzcyNTI2OTgwMTM5ODk1MTk0Njk7MA✔️ 实时查询应聘进度✔️ 面试技巧1v1指导✔️ 部门匹配优化建议🎯 招募新势力• 2025届应届生(2024.09-2025.08毕业优先)• 实力派职场人(同步开放社招绿色通道)🌍 全球办公地图国内总部:北京/南京/武汉/深圳/上海国际据点:巴黎/新德里/雅加达等12个海外城市💼 成长型薪酬体系✨ 超全保障:顶格六险一金(公积金按12%顶格缴纳)✨ 入职礼包:新人专属1000元生态链产品券✨ 晋升机制:每年4月&10月双通道晋升窗口✨ 暖心假期:全薪病假12天+工龄递增年假+节日福利假🚨 内推专属提醒:⚠️ 系统显示投递高峰已至⚠️ 建议优先选择研发/产品/国际化岗位⚠️ 简历投递后48小时内可修改志愿#内推##内推码##春招##实习##暑期##暑期实习##暑期实习转正##转正##小米实习##小米汽车##小米##字节##腾讯##阿里##华为##美团##大疆##百度##理想##OPPO春招##OPPO##快手#
点赞 评论 收藏
分享
03-23 21:27
已编辑
山东大学 产品运营
字节 本地生活的广告业务 150一天➕1500房补
点赞 评论 收藏
分享
评论
41
188
分享

创作者周榜

更多
牛客网
牛客企业服务