康明斯 大模型实习生（20250113）

🔞 美甲🧑‍🔧 语音算法实习😶‍🌫️ 项目提问+八股1. 自我介绍2. 介绍一下简历上的大模型项目；讲一讲如何做数据清理的；角色知识增强是怎么做的；推理阶段有无优化；有没有最新的改进。3. 介绍一下现在的研究方向以及论文。（主要听听思路，由于我说借鉴了RLHF的思路，借机问了一下RLHF的技术框架）4. LoRA的原理；RLHF的细节（要求更细致的介绍，这里问了一个我不是很理解的问题，除了reward model和llm，还用到了什么模型？之后查了一下确实就这两个啊）5. 手撕MHA（pytorch）；GQA的原理。6. 输入的padding部分是如何参与计算的；为什么用left padding而不是right padding。7. 让大模型确保输出json格式有什么办法？8. 介绍一下softmax的数值溢出，以及有什么办法解决。反问：主要业务是什么；实习时间的要求。感觉比之前面试状态要好很多，回答还是比较流畅。同时，这次发现了一些之前没复习到的地方，回去一定补。

字节很喜欢深挖简历，通常不会直接问八卦，而是结合项目问，所以项目一定要吃透，用到的技术要理解的很深入，此外会有面试官结合他们的业务问一些场景问题，问如果是你你会怎么做等等。一，二，三面都是这个模式，我把一些他们根据简历问的通用问题记录一下，供大家参考。1.使用SFT进行微调时的训练数据是如何构造的，如果缺少训练数据有没有什么方法？2.看你使用的是千问大模型，请问千问的模型结构，创新点是什么？3.看到你在SFT的基础上使用了dpo来训练，为什么要使用dpo，sft不行吗？4.sft解决不好的badcase，为啥dpo就能解决了？你认为sft适合解决那类问题？dpo又适合解决哪类问题？5.dpo的...

最近有同学面试AI产品经理时，遇到了这个问题，今日和大家分享一下～面试官：如何减轻大模型的幻觉问题？在AI产品中大模型幻觉问题非常普遍，减轻大模型幻觉问题可从技术优化、产品设计、用户交互和持续迭代四个维度综合施策。1. 技术层：增强模型的“事实核查”能力- 检索增强生成（RAG）‌：结合外部知识库（如维基百科、行业数据库）实时检索，确保生成内容基于最新、可信数据。例如，New Bing通过接入搜索引擎实现动态信息整合。- 微调与对齐‌：在预训练后，用高质量标注数据（标注事实性错误）对模型进行微调，强化“不确定时拒绝回答”或“引用来源”的能力。- 置信度评分与阈值控制‌：模型对生成内容输出置信度分数，低置信度时触发回退机制（如切换至检索模式或提示用户核查）。2. 产品层：引导用户合理预期与交互- 明确能力边界‌：在用户界面标注模型局限性（如“可能包含不准确信息”），避免用户过度依赖生成结果。- 实时反馈与标注‌：- 对高风险领域（医疗、法律）的答案自动标注警示，并提供“验证来源”按钮。- 生成内容附带来源引用（如“根据2023年XX研究”），提升可信度。- 用户纠错机制‌：设计一键反馈入口（如“报告错误”），收集幻觉案例用于模型迭代。3. 评估与监控：构建事实性指标体系- 自动化评估‌：引入事实性评测工具（如FactScore、TruthfulQA），定期测试模型在关键领域的准确性。- 人工审核Pipeline‌：对高频场景（如新闻摘要、知识问答）建立抽样审核流程，识别潜在幻觉模式。- 实时监控‌：部署异常检测系统，拦截明显矛盾或反常识内容（如“太阳从西边升起”）。4. 迭代策略：数据与场景的持续优化- 领域自适应‌：针对垂直场景（金融、医疗）补充专业数据，降低开放域幻觉风险。- 多模态融合‌：结合图文、结构化数据等多模态输入，提升上下文理解准确性（如用图表辅助生成财务分析）。- 用户行为分析‌：优化提示设计（如要求用户提供背景信息），减少模糊查询导致的幻觉。#牛客AI配图神器#  #聊聊我眼中的AI#  #产品经理#  #Ai产品经理#

有转正机会面试流程：自我介绍第一个项目中的成员分工数据规模是多少数据模型是怎样考虑的项目中有没有遇到过什么问题，是如何解决的当时考虑接外部软件是吧，为什么没有考虑在数据可视化部分自己做一些定制化的开发第二个项目是部署上线的，可使用的项目是吧SQL中做行列转换如何操作如何找到脏数据中十条重复数据并删除如果直接筛，可能导致被锁住，有其他办法么SQL中几种删除方式的区别索引有了解吗，有哪些索引的类型什么情况下会导致索引失效分区有了解过吗大数据量处理慢SQL的解决和优化方法雪花模型和星型模型的区别事实表和维度表有什么区别Hive中内外部表有什么区别Hive和Spark有什么区别Sqoop在项目中主要做...