推理部署优化/高性能开发 春招总结-1

感觉是对于大模型推理的batch问题上回答的面试官不是很满意，反正没有后续联系了1. 自我介绍2. 直接聊项目3. 聊vllm的特性4. 转到聊为什么batch能提高吞吐量，我的回答他不是很满意5. 做了一道合并有序链表，然后围绕题目突然展开聊操做系统底层。真难啊找个实习

timeline:2月10日一面2月13日二面（leader面）2月14日三面2月24日四面（hr面）2月25日谈薪，口头offer（跟hr提了几天时间考虑要不要接）面试提问的一些大概问题（针对项目的问题略过。。。）：能说一下reduce类算子有哪些优化方案吗？对于reduce类算子，考虑shape为[M, N]，对于M非常大怎么优化？对于N非常大怎么优化？了解sglang和vllm吗？vllm采用了哪些优化方案？PageAttention的实现思路是怎样的？vllm你觉得哪些方面可以进一步优化？说说flashattention的原理openMP外层循环开了四个线程，在内层循环可以开大于四个线...

方向1：公司目前最火的算子开发赛道，帮助客户更快用好华为昇腾算力，推进昇腾算子开发生态，加速昇腾产品进入千行百业；基于昇腾CANN架构，构建高性能的NPU加速引擎解决方案。（核心竞争力，对标英伟达cuda）方向2：负责大模型与端云协同能力部署，实现端侧实时流畅的语言与视觉大模型加速计算。（不接触大模型，都不好意思说自己是搞AI的）【任职要求】业务技能要求：1、25届应届生；2、有较强的学习能力和编码能力；3、有良好的表达能力和沟通能力，注重团队合作，主动担当。专业知识要求：1、 C/C++或Python编程基本功扎实， 有较强的代码分析与实现能力；2、了解深度学习及神经网络加速的相关概念、有Caffe/Tensorflow/Pytorch等深度学习框架应用经验者优先。【岗位优势】1、多地域团队年轻，，规模化扩招50+！工作氛围轻松、活跃！#牛客AI配图神器#2、新业务，当下风口业务，舞台够大，可以大展拳脚，可达到的高度不设限，也容易出成绩。有意者可添加 微信联系方式

#字节跳动# #面经#50分钟，有些记不起来的就不写了 日常来 自我介绍项目介绍 先问项目有什么亮点，挑一个讲一下。Python和Golang有什么区别？Golang中的协程为什么高效？agent执行一个请求的过程？(要答到底层去，dns、路由器、交换机，TCP/IP模型，答的不好，没有成体系，东一榔头西一榔头)tcp请求中如果有一个请求特别大被拆分了多个包且有的包丢失了，后续会发生什么？(答的不好，讲了keepalive和重发，不够)进程线程协程具体讲一下？用户态和系统态讲一下？(要问我底层，不会了)如何测试一个功能正确和完备？(没见过的八股，不会了)如何使用CI/CD构建自动化测试构建部署...