我的简历过了,刚发的,本科双非一本,硕士西电
点赞 2

相关推荐

组内直招,我给自己捞一下实习生联系方式****************************职位描述1、负责机器学习训练和推理系统的研发与性能优化,包括但不限于:超大模型计算性能优化、千卡训练集群调优、分布式推理系统、大规模推理流量调度等;2、负责解决大规模AI系统中高并发、高可靠性、高可扩展性等技术难关,支撑公司内外千万客户流量需求;3、负责大模型训练和推理前瞻性技术架构的调研和引入,技术方案不限于分布式训推系统、子图匹配、编译优化、模型量化等;4、负责异构硬件的引入与训练推理框架的集成,包括但不限于GPU、NPU、TPU等;5、面向全球多地域超大规模GPU算力集群,通过弹性调度、GPU 超卖、任务编排等方式不断提升算力利用率;6、与算法部门深度合作,分析性能瓶颈,通过软硬结合提升模型训推效率,支持AI工具链和技术生态建设,推动公司AI关键业务发展。职位要求1、2026届本科及以上学历在读,计算机、软件工程等相关专业优先;2、熟悉常见的算法、设计模式和数据结构,具备扎实的操作系统、计算机体系结构等知识;3、独立分析问题和解决问题,自我驱动并对过程负责;4、以下条件为加分项:1)能够理解GPU硬件架构,熟悉GPU软件栈(CUDA,cuDNN),具备GPU性能分析的经验;2)参与机器学习系统开源社区项目经验,熟悉机器学习系统各项流程中的工作原理;3)有至少一种大模型训练/推理框架使用经验,包括但不限于:vLLM、TensorRT-LLM、SGLang、Megatron-LM等。
投递字节跳动等公司10个岗位
点赞 评论 收藏
分享
中电信人工智能公司 大模型推理加速工程师实习生1. vllm sglang 有什么区别?sglang相对于vllm有什么好的?sglang为什么更适配推理这类的llm?dpskr1了解吗?和基座llm有什么区别?假如要魔改vllm,可以怎么做?2. Cuda算子开发经验,性能对比过吗?3. 大模型量化算法原理没问(感觉默认我懂)问有没有实际部署过?有没有看过autoawq的git库?4. Clip原理,clip推理流程了解吗?(简历里写了解过一些cv mllm方向)5. 实习经历介绍,实现的算子性能如何?常见大模型算子优化思路有哪些?(访存优化,并行优化)6. Ascend CANN MindIE框架有哪些组成?7. 场景1:V100显存多少,Dpsk Qwen 32B int8量化能部署吗?怎么部署?(紧张了,int8说2比特位…)8. 场景2:并发场景下怎么测试最大并发数,需要关注哪些指标?(答的不好)(bsz,latency 我回答的gpu利用率显存这些……面试官提示了从用户角度,我脑子没转过来)(指标含义没问,默认我懂)9. 场景3: vllm怎么去支持自研模型?面试官的建议:LLM有训练有推理,我们这个路子更偏向实现算法,加速算法。同样是attn,后端如何实现,如何更快。需要对算法有一定了解,对工程能力要求也挺高。我了解但是不够深入,实践经验较少。更深入去看vllm源码,应用层面怎么去调用算子,底层层面算子怎么实现的,怎么去实现更高性能算子(还提到可以从汇编层面出发)。关于暑期:电信(或者说国企)集团有统一的校招流程,需要投简历做笔试再分发简历到用人部门,没有直接内部转正的。个人感受:国企面试还是比较温和的,面试老师给我的感觉也是,知道你这个地方不会了,能力到这了,就不会再问了。呜呜呜,大厂全聚德的小垃圾(我)尸体暖暖的~#牛客AI配图神器#
12.11:补后续:hr说拉垮的点,没论文,实习时间短,不是大厂,内容垃圾不深入……
查看9道真题和解析
点赞 评论 收藏
分享
牛客网
牛客企业服务