淘天淘宝直播大模型实习一面

今天老师给大家分享大模型项目准备经验，供各位同学参考学习。1️⃣大模型流程✅数据处理：1.参考 deepseek 、 llama 、 qwen 等技术报告的数据清洗工作；2.强烈建议使用 Data - Juicer 做启发式数据清洗工具；3.做数据多样性探索，保证 Prompt 的多样性；4.做数据质量增强，用强基座做数据改写等。做拒绝采样保证 response 的" Online "性质。✅开始训练：1.卡多做 CPT ，没卡就基于 Base 模型做 Post - Training ;2.不同规则的模型调参差异大，参考大厂技术报告和其他博客；3.试试不同的训练策略，有挺多 fancy 的增量预训练和 Post - Training 方法，多试试；✅评估 Case :1.在常见的 Benchmark 上看看效果，脚本都有现成的；2.不要只看指标和 loss ,多分析 case ，知道加什么数据，摸清模型的边界能力，持续迭代优化模型能力；3.基座或者 Chat 作为 Baseline ，对比看看效果。2️⃣做一个垂域大模型项目资源准备：你需要准备至少4张3090级别的显卡，核数足够多的 CPU 。✅前期准备：1．调研业务，设计业务场景，分析可行性（数据，技术，实用性）;2．会爬虫；3.需要留钱买 API ;✅数据处理：1．爬的数据很脏，一定要做数据清洗；2.如果垂域没那么垂直，比如法律方向，大概率 Base 模型见过了，可以选择不做垂域和通用的数据配比；评估 Case :搞两个 Benchmark ，垂域和通用的，通用不能掉点太多;评估下一致性，从训练集里按任务分层抽样看看 case ;3️⃣做一个大模型应用做完上面两个项目后，其实都可以在此基础上构建一个大模型应用，目前最多的就是 rag 或者 agent 嘛，讲讲如何构建一个 RAG 。✅前置能力：1．学下 Langchain 和 Llama - index ;2.看看简单的 workflow 怎么做的，强烈推荐看看 Anthropic 的《 Building effective agents 》;3．有一定的工程能力。✅参考框架：1.Langchian- Chatchat ，之前笔记就推荐了， rag 很有影响力的开源项目，而且可优化点多；2.Qanything;3.自己手搓个 workflow .可优化点：内容供给；重排策略;微调 embedding ;意图分流单独训个 agent ;优化归纳📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系

看完空宣前辈们的分享，感觉性价比确实很高，是提前拿到Offer的好机会，当然如果最后没有Offer也可能有实习机会，也算是给简历添砖加瓦了，真心建议可以冲！昨天的空宣干货很多，把真题也拿出来现场解读了，说得很细致，确实很难复述，空宣过程中说后面会把那几个真题解答的视频放出来，大家感兴趣可以蹲一下他们视频号。先梳理一下活动的时间线吧：4月24日截止报名4月下旬线上竞赛5月开始面试6-7月线下入营（机酒全包，超赞！）我浅浅总结一下这场观看空宣下来的攻略（主要靠截图其实：AI赛道：之前今年出题的前辈透露会考察AI领域的基础知识（敲黑板，划重点！！），可能涉及到概率论、数据统计、机器学习、深度学习、大...

研一在读，本硕C9，实验室做的是cv相关的工作，但是显卡资源很少。未来可能考虑大模型或者搜广推方向，目前无实习无论文，导师给的指导很少，大佬们推荐一下该选哪个方向…#牛客AI配图神器#

1.netty的网络模型2.netty用的select还是epoll还是poll,select和epoll的区别，epoll的原理，多路复用的原理3.tcp和udp的区别4.tcp用什么保证可靠性5.就三次握手四次挥手就保证一定能收到吗，什么机制保证的6.说下具体是怎么做重试的吗7.但是我消息都没发出去的话，一个包都没收到是怎么办的8.tcp怎么做流量控制的，比如大视频会怎么办9.流量控制和拥塞控制的区别10.MySQL事务解决什么问题，有什么特性11.事务的ACID每个都是什么意思12.事务的隔离的四个级别，MVCC解决什么问题13.undolog是什么，redolog是啥，redolog会...