字节 大模型算法 一二三面 面经

“说一说当下大模型的主要特点？”“大”“那大模型大在哪里呢”“大在模型”“…”

组是负责处理字节内部事宜的工作，可以说是什么都干，监测票据、查找文本特殊信息、总结文件等等。拷打实习transformer 前馈神经网络的结构， 为什么会先提升维度后缩小维度multihead 如果改变head个数会影响参数量吗大模型是temperature先起作用还是top p如何解决幻觉，复读机问题如何处理局部最优点过拟合l1,l2区别，用法力扣1650  二叉树的最近公共祖先

8.29 一面 50min1.拷打论文 （面试官反馈，讲的很清楚）2.拷打实习3.LoRA原理4.对Seq2Seq模型的理解5.self-attention原理6.位置编码，LLM用的是什么？为什么这么设计？7. RAG了解吗？讲下RAG链路？RAG为什么有用？8. RAG向量召回怎么做的？9. 手撕——删除链表倒数第n个节点（从class开始实现， 有个地方有bug， 不过面试官说ok）10. 反问9.4 二面 60min1. 开局手撕——反转链表（也是从class开始实现，自己写样例测一下）2. 拷打实习3. 你做了哪些优化？效果怎么样？为什么有效果？ （感觉面试官不是很相信）4. 讲一下PPO5. 大模型幻觉是怎么产生的？最新的paper有看过吗？6. 怎么缓解幻觉？7. 手里项目上线了吗？下一步优化点是什么？8. 可以提前实习吗？9. 反问许愿🙏🙏🙏🙏 #不给转正的实习，你还去吗#  #面试#  #字节#  #秋招#  #算法#  #面经##阿里##腾讯# #蚂蚁##美团##小红书#———————————————updare一下，g了

8.28 美团一面 纯纯的搞笑面前言：本来美团的面经不该在这个时间点来写的，我也并不想写，因为这面经写出来没有丝毫的价值，本该着手去写的已挂的百度二面面经，但在我看到我的美团校招流程变成回到人才库时，我必须写点什么吐槽这件事。1.自我介绍2.看我的简历里面没有学校的经历，为什么？（学校的经历和求职的需求百分之百不符合）3.看我许久以前的简历是找java的，为什么改了？（礼貌的回答了）4.让我选一个项目聊，我选了目前实习做的项目，大语言模型做类似判别的任务。5.我这个项目的场景下，大模型的输入是啥？我回答是文字。6.大模型的输出是啥？我回答也是文字。7.这个loss是怎么计算的？我回答，toke...