旷视 MegEagle 大模型 二面面经

最近有同学面试AI产品经理时，遇到了这个问题，今日和大家分享一下～面试官：如何减轻大模型的幻觉问题？在AI产品中大模型幻觉问题非常普遍，减轻大模型幻觉问题可从技术优化、产品设计、用户交互和持续迭代四个维度综合施策。1. 技术层：增强模型的“事实核查”能力- 检索增强生成（RAG）‌：结合外部知识库（如维基百科、行业数据库）实时检索，确保生成内容基于最新、可信数据。例如，New Bing通过接入搜索引擎实现动态信息整合。- 微调与对齐‌：在预训练后，用高质量标注数据（标注事实性错误）对模型进行微调，强化“不确定时拒绝回答”或“引用来源”的能力。- 置信度评分与阈值控制‌：模型对生成内容输出置信度分数，低置信度时触发回退机制（如切换至检索模式或提示用户核查）。2. 产品层：引导用户合理预期与交互- 明确能力边界‌：在用户界面标注模型局限性（如“可能包含不准确信息”），避免用户过度依赖生成结果。- 实时反馈与标注‌：- 对高风险领域（医疗、法律）的答案自动标注警示，并提供“验证来源”按钮。- 生成内容附带来源引用（如“根据2023年XX研究”），提升可信度。- 用户纠错机制‌：设计一键反馈入口（如“报告错误”），收集幻觉案例用于模型迭代。3. 评估与监控：构建事实性指标体系- 自动化评估‌：引入事实性评测工具（如FactScore、TruthfulQA），定期测试模型在关键领域的准确性。- 人工审核Pipeline‌：对高频场景（如新闻摘要、知识问答）建立抽样审核流程，识别潜在幻觉模式。- 实时监控‌：部署异常检测系统，拦截明显矛盾或反常识内容（如“太阳从西边升起”）。4. 迭代策略：数据与场景的持续优化- 领域自适应‌：针对垂直场景（金融、医疗）补充专业数据，降低开放域幻觉风险。- 多模态融合‌：结合图文、结构化数据等多模态输入，提升上下文理解准确性（如用图表辅助生成财务分析）。- 用户行为分析‌：优化提示设计（如要求用户提供背景信息），减少模糊查询导致的幻觉。#牛客AI配图神器#  #聊聊我眼中的AI#  #产品经理#  #Ai产品经理#  #牛客激励计划#

📍面试公司：网易有道👜面试岗位：大模型 实习生📖面试问题：1. top-k和top-p2. 对比损失和llm中的temperature3. lora微调4. llm中的强化学习5. 训练样本的文本如何构建的，输出的格式6. rag🙌面试体验：问的很细，难，一轮直接挂 #大模型面经#

刚刚日常实习二面结束，面试官说一周之内给结果。刚刚又问了HR，一般三个工作日。而且只有一个坑位。HR说，下周还有别的面试者，团队可能会对比看。感觉希望不是很大，是不是已经凉了？😭#如何判断面试是否凉了# #牛客解忧铺# 而且面试官还问我有没有offer，这个大概怎么回答？#美团求职进展汇总#

1、自我介绍2、聊项目3、聊了一下论文4、算法题：最长山峰前几天面的，今天发感谢信了。感觉聊的还行，算法题也写出来了，想不通。