大模型算法面经-京东

科大讯飞 NLP (2+1+1) 🚀主要是以项目为主，如果项目有论文支撑，直接对着你的论文直接开讲，中间打断提问发散问题, 最后八股拷打。八股如下包含飞星计划以及秋招正式批：Lora为什么在工业界这么吃香？原因是什么？LLM的分布式框架了解过吗？展开讲一下它们的优缺点？大模型的训练的完整流程是什么样子的？为什么要先经过SFT微调，在RL？DPO和PPO有什么区别？你更喜欢使用那种？当时浅浅回答了下，喜欢DPO，优点说明下。DPO的公式给我写一下或者口述一下？当时没写出来🙄DPO跟对比学习有哪些相同点和不同点？我的项目用了后者 跨模态对齐如何做的，你都了解那些对齐方式？模型的幻觉问题？以及RAG的好处？如何利用RAG去缓解模型环节？ROPE给我介绍一下？代码能写下吗?（当时还不会写🙄）你了解哪些多模态encoder？没有Leetcode🫡，但对着论文拷打发散问题很难受🤕#八股# #牛客解忧铺# #大模型# #nlp# #算法#

📍面试公司：美团👜面试岗位：大模型春招📖面试问题：问了 PPO 重要性采样系数怎么才能为1？调节批量，学习率，超参数啥的 不懂，策略收敛最优解不就为一了吗grpo 的 GAE 怎么算，和批量大小有没有关系？为啥没有要PPO的v函数？离轨策略和在线策略的关系？ 冷启动 + grpo 怎么做的？仿真寻优（实习项目）的 PPO 和 openai 的PPO有啥不同？ 项目的p(s'|s,a)=1,状态转移矩阵非常稀疏手撕链表 切断+翻转+链表合并Input: 1->2->3->4->5->6->7Output: 1->7->2->6-&gt...

最近有同学面试AI产品经理时，遇到了这个问题，今日和大家分享一下～面试官：如何减轻大模型的幻觉问题？在AI产品中大模型幻觉问题非常普遍，减轻大模型幻觉问题可从技术优化、产品设计、用户交互和持续迭代四个维度综合施策。1. 技术层：增强模型的“事实核查”能力- 检索增强生成（RAG）‌：结合外部知识库（如维基百科、行业数据库）实时检索，确保生成内容基于最新、可信数据。例如，New Bing通过接入搜索引擎实现动态信息整合。- 微调与对齐‌：在预训练后，用高质量标注数据（标注事实性错误）对模型进行微调，强化“不确定时拒绝回答”或“引用来源”的能力。- 置信度评分与阈值控制‌：模型对生成内容输出置信度分数，低置信度时触发回退机制（如切换至检索模式或提示用户核查）。2. 产品层：引导用户合理预期与交互- 明确能力边界‌：在用户界面标注模型局限性（如“可能包含不准确信息”），避免用户过度依赖生成结果。- 实时反馈与标注‌：- 对高风险领域（医疗、法律）的答案自动标注警示，并提供“验证来源”按钮。- 生成内容附带来源引用（如“根据2023年XX研究”），提升可信度。- 用户纠错机制‌：设计一键反馈入口（如“报告错误”），收集幻觉案例用于模型迭代。3. 评估与监控：构建事实性指标体系- 自动化评估‌：引入事实性评测工具（如FactScore、TruthfulQA），定期测试模型在关键领域的准确性。- 人工审核Pipeline‌：对高频场景（如新闻摘要、知识问答）建立抽样审核流程，识别潜在幻觉模式。- 实时监控‌：部署异常检测系统，拦截明显矛盾或反常识内容（如“太阳从西边升起”）。4. 迭代策略：数据与场景的持续优化- 领域自适应‌：针对垂直场景（金融、医疗）补充专业数据，降低开放域幻觉风险。- 多模态融合‌：结合图文、结构化数据等多模态输入，提升上下文理解准确性（如用图表辅助生成财务分析）。- 用户行为分析‌：优化提示设计（如要求用户提供背景信息），减少模糊查询导致的幻觉。#牛客AI配图神器#  #聊聊我眼中的AI#  #产品经理#  #Ai产品经理#