滴滴大模型一面面经

本人只做点业务数据sft, 做的更加偏向于粗糙业务，直接被拷打麻了，望佬看到可以给我指点一下1. 现在有一个非常完备的sft指令集，你只能选择1w条，你如何选择数据来使模型的能力更加提升+完备？2.我们知道sft的时候尽量不要注入知识给模型，因为只希望sft可以提升模型的指令遵循的能力，注入知识的话，可能会导致后面使用的时候模型容易出现幻觉，那我们怎么确保自己选择的这1w条数据没注入知识给模型呢？3.7b和13b模型微调同一批数据，学习率哪个大？4. Pretrain/sft/ppo学习率怎么变换？5. 学习率和batch大小变化一致吗？6. 做表征学习的时候，模型坍塌的原因？7. 为什么做rm的时候，用不同的小模型大模型来采样生成后训练出来的rm会比以前那种方法奏效？这很反直觉，因为按照直觉来说的话，这种方式可能会让rm偏向某个权威的模型8. 现在有很多种方法，有做完pt直接做rlhf的，也有按班就步的pt-sft-rlhf的，还有直接不做rlhf的，你觉得为什么这些方法都有效，你觉得是什么原因造成的？#滴滴##秋招##面经#  #算法#  #八股#

组是负责处理字节内部事宜的工作，可以说是什么都干，监测票据、查找文本特殊信息、总结文件等等。拷打实习transformer 前馈神经网络的结构， 为什么会先提升维度后缩小维度multihead 如果改变head个数会影响参数量吗大模型是temperature先起作用还是top p如何解决幻觉，复读机问题如何处理局部最优点过拟合l1,l2区别，用法力扣1650  二叉树的最近公共祖先

多模态 & 大模型 & Agent 正式员工(*3) & 实习生招聘 (*5，实习时间>=3个月)1、团队介绍我们是快手垂搜大模型团队，致力于构建视觉大模型、多模态搜索、User Agent新系统，应用于多种电商场景（如拍照搜同款、图文相似款、电商创意AIGC，买家Agent问答)。团队紧随技术潮流，不断技术/商业创新，期待与优秀的同学一道，进一步扩大影响力。团队一直坚持学术与业务并向发展的方式，目前在CVPR、WWW、AAAI、SIGIR等会议发表论文多篇 (其中一篇Shared Task Best Paper, 一篇Outstanding Paper)，并在国内知名赛事与榜单荣获过多项Top2成绩；内部提供充分的交流讨论，现有正式员工与实习同学均来自国内/全球顶尖学校；在这里你会有专业的Mentor实时指导技术创新与业务落地。过去半年团队一共发表论文4篇，AIGC方向专利5项。组内机器资源充足(数百张V100/A100)，产研结合，自由度高。组内氛围良好，年轻同学多且有活力，小组内部定期有LOL/桌游/团建旅行。实习表现出色可优先转正及获取SSP Offer。万分期待你的加入！2、实习内容1、多模态视频图文内容理解 (预训练、微调、RLHF、self-prompt技术创新与应用)2、电商多模态信息RAG (商品-商家-用户-平台粒度多维度信息对齐与检索, 跨模态匹配)3、AIGC视觉生成（文生图/视频、精细编辑、多轮交互、训练推理加速、评估标准）4、User Agent设计 (商品知识库信息构建、跨模态实时检索、工具调用与信息分析)5、参与模型蒸馏，量化剪枝，在线实时性部署等工作，支持生成&翻译算法的性能优化与落地；6、针对业务特点，跟踪相关领域的技术发展趋势，进行各类技术方案的探索和学术研究。、当然，研究不限于上述方向，如果您觉得其他方向非常有趣/有价值，也欢迎交流讨论。3、职位要求1、计算机、数学、人工智能或相关专业硕士及博士在读，有扎实的机器学习和NLP算法基础。2、熟悉LLM工程技术和方法，并掌握大模型的微调和评估方法；有参与大模型研发者优先。3、熟悉深度学习框架，如TensorFlow、PyTorch等，有扎实的编程基础和代码实现能力。4、具备优秀的业务感知以及分析和解决问题的能力，良好的沟通协作能力。5、有高水平论文（如ACL、CVPR、NIPS、AAAI、ICML等)或者开源项目者优先。工作地点：杭州 or 北京简历投递：线下私聊

一面/技术面 2024/8/23 上午11:00-12:00自我介绍挑一个实习介绍了解哪些位置编码技术RoPE原理线性内插、NTK到YaRN位置内插后注意力计算会增加，如何缓解介绍LongLoRA数据集构建时各种类型的比例是如何确定的使用华为910B及其相关平台时遇到过哪些困难，如何解决的效果如何评测最终的效果提升有没有什么具体的指标Coding：两数之和为什么要投蔚来反问二面/技术面 2024/9/3 下午16:00-17:00自我介绍介绍实习自己做了哪些工作，mentor提供了哪些支持介绍LongLoRAYaRN原理主要业务场景训练过程中如何降低显存使用训练的细节，时长，参数设置，显卡数量...