对CUDA和AI推理优化等AI工程类工作的疑问

周一投完这周共5个面试 面完3个 时间冲突放弃1个 周五还剩1个力扣和数据结构没怎么刷先上战场了 面试中目前失败一个（写了65%）研一下到现在学了半年CUDA和TensorRT构建推理引擎 各类模型的高性能算子和高性能推理还缺乏实践 更深的TVM，分布式的deepseed和汇编没时间了 现在迷茫了 要学的很多且可能学完依旧找不到 #高性能计算#  #高性能计算面经#  #HPC高性能计算工程师#

高性能计算优化工程师（北京），部门主要做车上模型的优化，包括算子还有pipeline之类的 timeline10.24 一面 约的比较晚，应该是前面的大佬拒了10.28 二面前两面的感觉不错，问问项目，问问八股+手撕但是明显感觉比其他厂问的更深，不管是项目还是八股10.31 三面 依然是技术面，继续深挖项目，有些压力面的感觉，被问的有些发毛了，没抓住要点，面试官嫌我啰嗦又没讲到他想听的。然后手撕多少也受了些情绪影响，没写好11.1 感谢信😓感觉挺遗憾的，虽然听说给的不是很高，但是能感觉部门的技术还是很专业的。另外三次面试对方都没开摄像头，可能这是传统吧总体上比较看重项目，cpu，...

#软件开发笔面经#timeline:10.151.自我介绍2.项目拷打3.sql优化方面4.springboot常见注解5.Git和mven，git分支是怎么处理的6.linux指令7.java常见集合，介绍一下，线程安全有哪些9.线程和进程的区别10.tcp，udp的区别11.三次握手，四次挥手12.string，stringbuilder,stringbuff的区别反问公司业务，能接触到什么主要用到的技术栈点评一下刚才的回答

一面 实习主要工作介绍； 千卡训练项目介绍； 竞赛项目介绍； 手撕：反转矩阵； 技术规划； 有什么其他offer； python深拷贝和浅拷贝区别； CPP的三种智能指针和用法； 写时拷贝原理 零拷贝原理 二面 大模型分布式训练的流程、并行策略考虑； 各种并行策略介绍； TP为什么有按行/列两种； 按行/列对应的是什么； Megatron-SP介绍， Transformer架构，有那些层、算子； encoder和incoder介绍，特点； FlashAttention介绍； online softmax介绍； block是软件还是硬件的； CUDA有哪些优化方法； 访存优化方法有哪些；...