中科曙光

感觉是对于大模型推理的batch问题上回答的面试官不是很满意，反正没有后续联系了1. 自我介绍2. 直接聊项目3. 聊vllm的特性4. 转到聊为什么batch能提高吞吐量，我的回答他不是很满意5. 做了一道合并有序链表，然后围绕题目突然展开聊操做系统底层。真难啊找个实习

一面：1、介绍YOLOv5网络结构2、C3模块结构3、PAN和FPN4、ancher free 和 ancher base的区别，优缺点5、YOLOv5的参数量6、介绍deepseed7、介绍flash attention8、介绍vllm9、什么是模型并行6、项目拷打，一些实现细节7、code，排序好的数组，从中找出target（二分查找）二面：1、项目问了两问题2、手撕flash attention 实现原理（根本不会）3、手撕多头注意力面试结束秒挂。一面（70min）二面（25min）

组内直招，我给自己捞一下实习生联系方式****************************职位描述1、负责机器学习训练和推理系统的研发与性能优化，包括但不限于：超大模型计算性能优化、千卡训练集群调优、分布式推理系统、大规模推理流量调度等；2、负责解决大规模AI系统中高并发、高可靠性、高可扩展性等技术难关，支撑公司内外千万客户流量需求；3、负责大模型训练和推理前瞻性技术架构的调研和引入，技术方案不限于分布式训推系统、子图匹配、编译优化、模型量化等；4、负责异构硬件的引入与训练推理框架的集成，包括但不限于GPU、NPU、TPU等；5、面向全球多地域超大规模GPU算力集群，通过弹性调度、GPU 超卖、任务编排等方式不断提升算力利用率；6、与算法部门深度合作，分析性能瓶颈，通过软硬结合提升模型训推效率，支持AI工具链和技术生态建设，推动公司AI关键业务发展。职位要求1、2026届本科及以上学历在读，计算机、软件工程等相关专业优先；2、熟悉常见的算法、设计模式和数据结构，具备扎实的操作系统、计算机体系结构等知识；3、独立分析问题和解决问题，自我驱动并对过程负责；4、以下条件为加分项：1）能够理解GPU硬件架构，熟悉GPU软件栈（CUDA，cuDNN)，具备GPU性能分析的经验；2）参与机器学习系统开源社区项目经验，熟悉机器学习系统各项流程中的工作原理；3）有至少一种大模型训练/推理框架使用经验，包括但不限于：vLLM、TensorRT-LLM、SGLang、Megatron-LM等。

猿辅导两面一共撕了5道题。1. cuda kernel撕了reduce_sum、conv2d、实习写的一个kernel2. cpp手撕循环buffer和单链表冒泡排序3. 一面主要聊的是实习的cuda优化整体内容，然后聊大模型推理的内容4. 二面上来写题，然后聊大模型推理、vllm、模型量化相关内容。5. 问了二面面试官组内情况，整体感觉很好，但可惜接了蔚来offer，就没准备去了