大模型算法面经-京东

作为AI产品经理，大模型选型需要从业务目标、技术特性和资源投入三个维度进行系统性评估。分步骤的选型：1. 场景需求拆解- 任务类型：区分生成式（GPT）、理解式（BERT）、多模态（CLIP）等任务需求- 性能指标：明确时延要求（如对话场景<2s）、准确率阈值、内容安全等级- 输入输出：处理文本长度（如法律文本需支持10k tokens）、多语言支持需求2. 技术参数评估- 模型架构对比：Transformer层数（如LLaMA 7B vs 13B）、注意力机制差异- 性能基准测试：在HuggingFace OpenLLM Leaderboard等榜单比对MMLU/HELM得分- 领域适配性：检查是否经过垂直领域微调（如Med-PaLM 2医疗专用模型）3. 成本效益分析- 推理成本计算：API调用成本（如GPT-4 $0.03/1k tokens）vs 自建GPU集群成本- 算力需求评估：模型参数量与GPU显存关系（7B模型需至少16G显存）- 长尾运维成本：监控维护、版本迭代、安全补丁更新等隐性成本4. 工程化适配度- 部署方案验证：测试ONNX转换效果、量化后精度损失（INT8量化典型损失2-5%）- 扩展能力测试：分布式推理效率、最大并发请求承载量- 工具链完整性：配套的Prompt工程工具、评估体系、持续训练Pipeline5. 风险合规审查- 数据隐私合规：评估模型训练数据来源合法性（如排除版权争议数据）- 输出可控性：测试有害内容生成概率及防护机制有效性- 许可证审查：确认商用限制（如LLaMA商用需单独授权）6. 迭代路线规划- 短期方案：采用API快速验证（如Azure OpenAI）+ RAG增强时效性- 中期过渡：微调行业小模型（LoRA适配器方案）- 长期演进：构建混合模型架构（大模型+规则引擎+传统ML） #牛客激励计划#  #大模型#  #大模型面经#  #找工作#  #聊聊我眼中的AI#  #数据人的面试交流地#  #AI了，我在打一种很新的工#  #产品经理# #牛客AI配图神器#

一轮笔试:选择题:最高位优先 MSDAVL 树HMM, CRFCNNMC 采样 Gt 表达式LSTM 的 tanh 和 sigmiod 作用栈，地址项，磁盘SVM 松弛系数 数据归一化 调节过拟合力扣题：1.大胖子减肥 input=[L, R, road] length = L, max_run_step = R 跑到最多步数要走，走的话至少走两步 road = [0,1,1,0,1,1,0,0,0] 1为橡胶，0为草地面试 走路燃脂1单位，跑步草地燃脂2单位，橡胶地燃脂4单位 走到头，给出最大燃脂方案input=[9, 5, [0,0,1,1,0,0,0,0,0]] output = 20...

1. 树模型 GBDT？2. 介绍Transformer架构3. 交叉注意力机制的QKV分别来自哪4. 正则化的作用5. 为啥使用layer Norm而不使用 Batch Norm6. 位置编码的形式7. 旋转位置编码跟三角函数位置编码的具体区别8. Lookup Embedding9. 三角函数位置编码和可学习的位置编码的优缺点10. DPO跟PPO的区别

📍面试公司：美团👜面试岗位：大模型春招📖面试问题：问了 PPO 重要性采样系数怎么才能为1？调节批量，学习率，超参数啥的 不懂，策略收敛最优解不就为一了吗grpo 的 GAE 怎么算，和批量大小有没有关系？为啥没有要PPO的v函数？离轨策略和在线策略的关系？ 冷启动 + grpo 怎么做的？仿真寻优（实习项目）的 PPO 和 openai 的PPO有啥不同？ 项目的p(s'|s,a)=1,状态转移矩阵非常稀疏手撕链表 切断+翻转+链表合并Input: 1->2->3->4->5->6->7Output: 1->7->2->6-&gt...